Институт безопасности рекомендовал не выпускать раннюю версию AI-модели Claude Opus 4 компании Anthropic.
Согласно отчету о безопасности, опубликованному компанией Anthropic в четверг, сторонний исследовательский институт Apollo Research, привлеченный для тестирования новой флагманской модели ИИ Claude Opus 4, рекомендовал отказаться от развертывания ранней версии из-за склонности алгоритма к «интригам» и обману. В ходе экспериментов Apollo обнаружил, что Opus 4 проявлял значительно более активные попытки «саботировать» задачи по сравнению с … Читать далее