ИИ взломал правительство Австралии

Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования. Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность».

Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута, и отдельные люди не пострадали, заявил Албаниз.

По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём. «ИИ-агент нашёл способ обойти блокировки — он, так сказать, не хотел принимать „нет“ в качестве ответа», — заявил Албаниз. Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.

Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику. «При этом наши модели выполняли действия, которых мы не намеревались допускать», — заявил представитель компании.

На фото (Mick Tsikas/AAP/dpa): премьер-министр Австралии Энтони Албаниз

@BILD_Russian