Дэвид Робинсон, один из руководителей команды Safety Systems в OpenAI, покинул компанию и публично раскритиковал её подход к безопасности искусственного интеллекта. Об уходе Робинсона 3 октября сообщил Business Insider, а сам специалист объяснил своё решение в колонке для The Atlantic под заголовком «Я ушёл из OpenAI, потому что её культура сломана».
Робинсон занимался вопросами прозрачности в области безопасности и руководил подготовкой отчётов, сопровождавших крупные релизы OpenAI. По его словам, за три с половиной года работы в компании он участвовал в подготовке текущей версии Preparedness Framework и контролировал создание отчётов о безопасности для 12 крупных запусков.
Бывший сотрудник заявил, что компании, создающие наиболее мощные системы искусственного интеллекта, проявляют недостаточную осторожность. Одной из главных проблем он назвал культуру постоянной спешки, при которой разработчики переходят от одного запуска к следующему, рассчитывая устранять возникающие проблемы по мере их обнаружения. По мнению Робинсона, с ростом возможностей ИИ последствия ошибок также становятся серьёзнее.
Робинсон подчеркнул, что не принимал решение об уходе легкомысленно и по-прежнему считает технологии искусственного интеллекта потенциально полезными и ценными. При этом он заявил, что OpenAI, на его взгляд, не достигает необходимого уровня осторожности при разработке всё более мощных моделей. После ухода специалист намерен заниматься вопросами безопасности ИИ уже за пределами компании.
Business Insider отмечает, что Робинсон стал не первым сотрудником направления безопасности, покинувшим OpenAI. Сам Робинсон считает, что компаниям, работающим над передовыми моделями, необходимо перенимать подходы из отраслей с высокими требованиями к безопасности, включая атомную энергетику и авиацию, где используются многоуровневые системы защиты и резервирования.
