Следующий рубеж развития искусственного интеллекта (ИИ) — это не только его возможности, но и то, кто сможет их использовать. Наша миссия — предоставить ИИ как можно большему числу людей — вот что нами движет. Сегодняшний выпуск наших наиболее мощных моделей с открытым весом — это значительный шаг вперёд, который делает передовой ИИ более открытым, гибким и доступным по всему миру.
Мы представляем gpt-oss-120b и gpt-oss-20b — две модели рассуждений с открытым весом, доступные под лицензией Apache 2.0 и согласно нашей политике использования gpt-oss.
Оценка рисков в наихудших сценариях при выпуске моделей с открытым весом
В этой статье мы изучаем риски, связанные с выпуском моделей gpt-oss в наихудших сценариях. Мы вводим понятие злонамеренного тонкого тюнинга (MFT), при котором мы пытаемся выявить максимальные возможности, настраивая gpt-oss так, чтобы она была максимально эффективной в двух областях: биологии и кибербезопасности.
🚀 Модели gpt-oss-120b и gpt-oss-20b — важный шаг к более открытому и доступному ИИ! 🚀
1. Какие лицензии применяются к моделям gpt-oss-120b и gpt-oss-20b?
Ответ: модели gpt-oss-120b и gpt-oss-20b доступны под лицензией Apache 2.0.
2. Какие потенциальные риски связаны с выпуском моделей с открытым весом в наихудших сценариях?
Ответ: в статье рассматривается риск злонамеренного тонкого тюнинга (MFT), при котором модели настраиваются для максимальной эффективности в потенциально опасных областях, таких как биология и кибербезопасность.
3. Какова миссия разработчиков при выпуске моделей gpt-oss-120b и gpt-oss-20b?
Ответ: миссия разработчиков — предоставить ИИ как можно большему числу людей, сделав передовой ИИ более открытым, гибким и доступным по всему миру.
4. Какие меры предпринимаются для минимизации рисков при выпуске моделей с открытым весом?
Ответ: в статье вводится понятие злонамеренного тонкого тюнинга (MFT) и рассматривается его потенциальная опасность, что свидетельствует о понимании рисков и попытках их анализа и минимизации. Однако конкретные меры по минимизации рисков в тексте не перечислены.
5. Какие возможности предоставляют модели gpt-oss-120b и gpt-oss-20b для пользователей?
Ответ: модели gpt-oss-120b и gpt-oss-20b предоставляют пользователям доступ к передовым возможностям ИИ, делая их более открытыми, гибкими и доступными по всему миру.