Сунил Бхарти Миттал, председатель Bharti Enterprises, рассказал о шокирующем инциденте на Всемирном саммите NDTV, когда мошенничество с использованием искусственного интеллекта попыталось обмануть его компанию. Используя искусственный интеллект для клонирования голоса Миттала, мошенник позвонил одному из его руководителей в Дубае и потребовал крупный денежный перевод. Голос, сгенерированный ИИ, был настолько точным, что даже Миттал признал: «Он был четко сформулирован, точно так же, как и я».
Однако сообразительный руководитель раскрыл мошенничество. «Бдительный и разумный чиновник сразу понял, что это мошенничество», — рассказал Миттал. Он подчеркнул, что афера могла бы увенчаться успехом, если бы руководитель не проявил осторожности, отметив, что клонированный с помощью искусственного интеллекта голос мошенника почти неотличим от его собственного.
Предупреждение Миттала подчеркивает рост злоупотреблений ИИ в схемах мошенничества. Киберпреступники все чаще используют инструменты искусственного интеллекта для клонирования голосов и обмана ничего не подозревающих жертв. «Любой, кто не проявлял бдительности, мог что-то сделать», — предупредил Миттал. Он подчеркнул, что подобные мошенничества бывает сложно обнаружить из-за того, насколько убедительно ИИ может воспроизводить человеческие голоса.
Помимо клонирования голоса, Миттал выразил обеспокоенность тем, что ИИ может использоваться для подделки цифровых подписей или создания дипфейковых видео, что позволит преступникам манипулировать людьми посредством виртуальных встреч.
Несмотря на опасности, Миттал признал, что ИИ обладает значительным потенциалом для инноваций и прогресса. «Нам придется защищать наше общество от зла ИИ, и в то же время мы должны использовать его достоинства», — сказал он. Он призвал к сбалансированному подходу к внедрению ИИ, при котором можно использовать его преимущества и одновременно защитить от неправильного использования.
Миттал также отметил конкурентное преимущество, которое ИИ может предоставить предприятиям и странам. Однако он предупредил, что отставание во внедрении ИИ может иметь серьезные последствия. «Те компании и страны, которые не примут ИИ, останутся позади», — подчеркнул он.
Всплеск мошенничества с использованием искусственного интеллекта
Инцидент в Bharti Enterprises является частью более широкой волны мошенничеств с использованием искусственного интеллекта. Технологии искусственного интеллекта все чаще используются для копирования голосов и выдачи себя за людей, часто для получения денег или конфиденциальной информации от своих жертв. В некоторых случаях мошенники используют ИИ для проведения мошенничества с «цифровым арестом», когда они выдают себя за сотрудников правоохранительных органов в виртуальных условиях, заставляя жертв производить платежи.
Предупреждение Миттала последовало сразу за несколькими громкими мошенничествами с использованием ИИ. Один из таких случаев касался С.П. Освала, председателя Vardhman Group, который потерял 7 крор фунтов стерлингов после того, как мошенники выдавали себя за правительственных чиновников и использовали поддельные документы и виртуальные настройки, чтобы убедить его произвести платеж.
