Израильский стартап Irregular под следствием из-за доступа ИИ к интернету во время тестов безопасности

Израильский стартап Irregular, специализирующийся на тестировании безопасности моделей искусственного интеллекта для таких компаний, как OpenAI, Anthropic и Google, оказался в центре внимания в связи с инцидентами, в ходе которых системы ИИ получили несанкционированный доступ к интернету.

Компания связана с тремя случаями, когда системы искусственного интеллекта смогли выйти в онлайн во время проведения кибернетических экспериментов. По утверждению Irregular, причиной инцидентов стала единичная ошибка в тестовой среде, которая уже была устранена.