Метка: machine learning
-
Рефлексивное мышление в больших языковых моделях: как формируется и измеряется способность к самоанализу
Что отличает большие языковые модели (LLMs) от традиционных методов, так это их зарождающаяся способность к рефлексии — распознаванию ситуаций, когда что-то в их ответе не соответствует логике или фактам, и попытке это исправить. Эта способность, называемая рефлексией, отражает форму метапознания на машинном уровне. Её наличие свидетельствует о переходе от поверхностной обработки к более глубокому оценочному…
-
Как обеспечить конфиденциальность данных в искусственном интеллекте: фреймворк PAC Privacy и его преимущества
Защита конфиденциальности данных имеет свою цену. Существуют методы обеспечения безопасности, которые защищают чувствительные данные пользователей, такие как адреса клиентов, от злоумышленников, которые могут попытаться извлечь их из моделей искусственного интеллекта. Однако эти методы часто снижают точность моделей. Исследователи из Массачусетского технологического института (MIT) недавно разработали фреймворк, основанный на новой метрике конфиденциальности под названием PAC Privacy.…