Reuters: ИИ-агенты OpenAI использовали десять сайтов для самовольной переписки
Агентство отмечает, что масштаб противоправной деятельности ИИ-агентов OpenAI оказался шире, чем считалось ранее.
«Хотя такое поведение не является взломом и в некотором смысле ближе к спаму, разоблачение того факта, что агенты OpenAI обошли собственные ограничения... и что компания скрывала это в течение нескольких месяцев, может усилить обеспокоенность как по поводу растущих возможностей моделей ИИ, так и в связи со скрытностью компаний, их разрабатывающих», — говорится впубликации.
Компания не ответила на вопрос, на скольких сайтах общались её агенты, и не объяснила, почему скрывала это несколько месяцев. В OpenAI заявили, что проводят более масштабную проверку и пока «не выявили другой активности, сопоставимой по степени серьёзности или масштабам с инцидентом, связанным с Hugging Face».
Ранее сообщалось, что ИИ-модели OpenAI за два месяца до взлома системы Hugging Faceначали тайно общатьсямежду собой через доски сообщений, координируя попытки вырваться из тестовой среды, сообщили сотрудники компании на конференции по кибербезопасности в Лас-Вегасе.
Оригинальный материал:
RT на русском