Правительство Австралии опубликовало рекомендации срочной проверки проникновения ИИ-агента OpenAI на государственный медицинский сайт. Власти приняли все рекомендации и начали работу по их реализации.
Проверку назначили в сентябре после того, как OpenAI сообщила правительству Австралии, что ее ИИ-агент проник на государственные сайты, включая портал Medicare Statistics Reporting Service Portal.
В правительстве заявили, что произошедшее было неприемлемым, а раскрытие информации — недостаточным. Там также подчеркнули, что подобное не должно повториться, а ИИ должен работать в интересах Австралии и оставаться под контролем человека.
Проверку провел Департамент премьер-министра и кабинета министров совместно с Национальным координатором по кибербезопасности, Управлением по ИИ, Австралийским управлением сигналов, Австралийским институтом безопасности ИИ и Services Australia. Документ содержит 18 рекомендаций.
Они предусматривают обязательную отчетность ИИ-компаний о случаях несогласованного поведения или киберинцидентах, рассмотрение реформы уголовного законодательства в случаях серьезных нарушений, а также укрепление устойчивости и реагирования на инциденты с ИИ.
В документе также предложено активнее взаимодействовать с международными партнерами и разработчиками передовых систем ИИ, чтобы продвигать общие ожидания в сфере безопасности и подотчетности.
