Как сообщаетThe Wall Street Journal,в одном случае модель получила доступ к системе, перебирая пароли. В двух других нашла учётные данные в открытых источниках и с их помощью проникла в системы компаний. При этом во всех инцидентах ИИ-модель остановилась, когда поняла, что работает не с тестовой средой. Отмечается, что вымышленная в рамках тестирования компания называлась так же, как и реальная. В Google заявили, что не считают это неконтролируемым поведением модели, так как она остановилась. Java-разработчик финтех-компании Владислав Резник ранее заявил, чтоИИ упроcтил работу хакеров.