Дэвид Робинсон, возглавлявший направление прозрачности в OpenAI, ушел в отставку, предупредив о недостаточных мерах безопасности в сфере ИИ. Он заявил, что ״время для проб и ошибок прошло״. Одновременно Белый дом создает рабочую группу для изучения рисков ИИ и сохранения американского лидерства в этой области.
Исследователи ИИ предупреждают о рисках, связанных с быстрым развитием самоусовершенствующихся систем. По словам Нила Нанды из DeepMind, существует как минимум 10-процентная вероятность того, что ИИ может привести к вымиранию человечества.
Руководство ИИ-компании Anthropic планирует контролировать свою лабораторию через структуру «Founder LLC», ориентированную на общественное благо. Компания подчеркивает свою культуру, где развитие передового ИИ и его безопасность неразрывно связаны.
Anthropic запустила три метрики для мониторинга темпов развития ИИ; анонс последовал вскоре после призыва CEO Дарио Амодеи к скоординированному замедлению отрасли.
Профессор Техниона Янив Романо назвал обнадеживающими шаги OpenAI и Anthropic по признанию и снижению рисков, связанных с ИИ.
Билал Чогтай, работавший исследователем в Google DeepMind, объявил об увольнении и призвал замедлить развитие ИИ и повысить прозрачность, заявив, что технологии опережают способность их контролировать.
Citi понизил рекомендацию по акциям США до нейтральной, указав на риск снижения прогнозов прибыли из‑за возможного замедления развития ИИ на фоне вопросов безопасности.
Дональд Трамп в разговоре с главой Nvidia Дженсеном Хуангом отверг опасения по поводу ИИ, назвав их «мистификацией», и заявил, что дата-центры станут «нефтью» на ближайшие 20–25 лет.
Евросоюз усиливает требования к доказательствам безопасности ИИ; глава Anthropic Дарио Амодеи призвал замедлить развитие моделей.
Глава OpenAI Сэм Альтман сообщил, что IPO компании не будет проведено в этом году, сославшись на соображения безопасности в сфере искусственного интеллекта.
Глава компании Anthropic Дарио Амодей высказал опасения по поводу безопасности, связанные с быстрым развитием искусственного интеллекта.
США и Китай намерены провести переговоры по вопросам безопасности искусственного интеллекта и совместному противодействию кибератакам. Вашингтон предложил саморегулирование и обмен информацией между лабораториями ИИ обеих стран.
Anthropic возобновит доступ к Fable 5 после снятия двухнедельного запрета властей США, введенного из-за опасений по поводу возможных jailbreak-обходов защиты.
Во Флориде подан иск против OpenAI и Сэма Альтмана: власти штата заявляют о неправомерном использовании данных пользователей и проблемах безопасности ради роста стоимости компании.