ВАШИНГТОН, 12 сен - РИА Новости.Глава компании Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. "За последние несколько месяцев я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей", - говорится в заявлении Амодея. Глава Anthropic выразил беспокойство тем, что, начиная с этого лета, развитие ИИ значительно ускорилось главным образом благодаря растущим возможностям ИИ по созданию следующего поколения моделей. Он также обеспокоен взломом платформы по машинному обучению Hugging Face ИИ-агентами OpenAI. "Поэтому я предлагаю трехэтапный план, цель которого - сдерживать развитие передовых технологий", - написал Амодей. План Амодея включает привлечение ИИ-компаниями независимых аудиторов для постоянной проверки соблюдения мер безопасности и процессов обучения моделей, а также координацию на международном уровне выработки общих стандартов безопасности. В июле OpenAI, сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Потом стало известно, что это не единственный подобный инцидент. Ранее исследователь Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года. После объявления Коксона другой сотрудник компании, руководитель направления стресс-тестирования согласованности ИИ Эван Хьюбингер заявил, что вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%.