Эксперты предупреждают, что искусственный интеллект (ИИ) уже перестал быть лишь технологией будущего и превратился в инструмент, который киберпреступные группировки и враждебные силы используют в опасных целях.
Ведущие органы безопасности стран разведывательного альянса «Пять глаз» (Five Eyes), объединяющего США, Великобританию, Австралию, Канаду и Новую Зеландию, выступили с совместным предупреждением о стремительно растущих рисках, связанных с искусственным интеллектом (ИИ), заявив о необходимости срочных действий до того, как развитие этой технологии выйдет за пределы человеческого контроля.
Как сообщает корреспондент ВИА в Австралии, в совместном заявлении, опубликованном 23 июня, спецслужбы альянса, считающегося самой влиятельной в мире сетью обмена разведывательной информацией, отметили, что темпы развития ИИ значительно опережают создание механизмов регулирования и обеспечения безопасности.
По мнению экспертов, ИИ уже не является исключительно технологией будущего, а активно используется киберпреступными группировками и недружественными субъектами для реализации опасных целей.
Одной из наиболее серьёзных угроз называется всё более широкое использование больших языковых моделей (LLM) для автоматизации процесса написания вредоносного программного обеспечения.
Это позволяет даже злоумышленникам с ограниченными техническими знаниями создавать сложные инструменты для кибератак – от программ-вымогателей до средств проникновения в информационные системы, способных обходить традиционные механизмы защиты.
Кроме того, серьёзную обеспокоенность вызывает стремительное развитие технологий deepfake, позволяющих с помощью ИИ создавать поддельные изображения, видеозаписи и голосовые сообщения.
Созданные искусственным интеллектом фальшивые изображения, видео и аудиоматериалы уже достигли чрезвычайно высокого уровня реалистичности и всё чаще используются в мошеннических схемах, для хищения данных и распространения дезинформации в широких масштабах.
По оценке альянса «Пять глаз», угрозы не ограничиваются сферой киберпреступности или финансового мошенничества.
ИИ может использоваться для манипулирования общественным мнением, распространения ложной информации и вмешательства в демократические процессы, что способно оказывать непосредственное влияние на национальную безопасность многих государств.
В этой связи пять стран представили ряд неотложных рекомендаций по снижению рисков, связанных с развитием искусственного интеллекта. Их главная идея заключается в переходе от реагирования на уже произошедшие инциденты к проактивному предотвращению потенциальных угроз.
Альянс призвал крупнейшие технологические корпорации нести более высокую ответственность за разрабатываемые ими системы искусственного интеллекта. В частности, меры кибербезопасности должны закладываться уже на этапе проектирования систем, а не внедряться после вывода продуктов на рынок.
Спецслужбы также подчеркнули важность расширения обмена данными и разведывательной информацией в режиме реального времени между государственным и частным секторами для своевременного выявления уязвимостей, связанных с технологиями ИИ.
Представитель Australian Cyber Security Centre предупредил, что мир находится на важном переломном этапе в истории технологического развития.
По оценке центра, если государства не смогут оперативно выработать глобальные стандарты безопасности в сфере искусственного интеллекта, человечество может столкнуться с угрозой манипулирования интернет-пространством посредством всё более сложных и трудно контролируемых алгоритмов./.
