Лауреат премии Тьюринга Йошуа Бенжио объявил о создании некоммерческой лаборатории по обеспечению безопасности ИИ под названием LawZero [https://www.ft.com/content/2b3ce320-2451-45c4-a15c-757461624585], сообщила Financial Times в понедельник. Цель проекта — разработка более безопасных систем искусственного интеллекта.
LawZero привлекла $30 млн благотворительных средств от сооснователя Skype Яана Таллинна, экс-главы Google Эрика Шмидта, Open Philanthropy и Института будущего жизни. Название лаборатории отсылает к научно-фантастической концепции «Нулевого закона робототехники» [https://asimov.fandom.com/wiki/Zeroth_Law_of_Robotics], ставящего защиту человечества выше других приоритетов.
Бенжио, которого называют одним из «крестных отцов» современного бума ИИ, стал одним из самых активных сторонников движения за безопасность искусственного интеллекта. Ранее он публично поддержал спорный калифорнийский законопроект SB-1047 [https://techcrunch.com/2024/08/30/california-ai-bill-sb-1047-aims-to-prevent-ai-disasters-but-silicon-valley-warns-it-will-cause-one/], направленный на предотвращение катастрофических сценариев, связанных с ИИ.
В интервью Financial Times исследователь заявил, что не верит в способность OpenAI и Google расставлять приоритеты в области безопасности при разработке всё более совершенных систем ИИ.