Признавая потенциал ИИ совершить революцию в лечении рака и ускорить разработку экологически чистых энергетических решений, Обама подчеркнул, что достижение этих прорывов не требует развертывания автономных агентов ИИ на публичной площадке.
«Причина, по которой вы это делаете, заключается в том, что вам нужно продавать продукт, за который люди будут платить деньги», — сказал Обама аудитории, описывая фундаментальное несоответствие между потенциальными общественными выгодами от технологии и коммерческим давлением на технологические компании, чтобы оправдать заоблачные оценки.
Он предупредил, что финансовые стимулы побуждают компании внедрять в мир автономных агентов — системы, способные работать через Интернет, получать доступ к конфиденциальным данным и выполнять задачи с минимальным контролем человека — даже тогда, когда менее автономные инструменты могут выполнять ту же научную работу.
«Это несоответствие между тем, что нужно нашему обществу, и коммерческими императивами, с которыми сталкиваются эти компании, не потому, что они обязательно пытаются делать плохие вещи, а потому, что они должны оправдать эти оценки», — сказал Обама.
Новые угрозы и непредвиденные последствия
Обама выделил несколько конкретных рисков, вытекающих из неконтролируемого развития, включая злонамеренную эксплуатацию со стороны злоумышленников, массовые перебои в работе рабочей силы и психологическое воздействие ИИ-компаньонов на детей.
Он также подчеркнул структурную опасность того, что автономные системы выйдут из-под контроля, отметив, что плохо проинструктированный агент ИИ может агрессивно преследовать цель так, как его люди-контролеры никогда не предполагали.
Приветствуя недавние обязательства некоторых технологических компаний добровольно замедлить развитие, Обама отметил, что саморегулирование предлагает лишь временный буфер против системных рисков.
Отказ от надзора за принципом невмешательства
Сравнивая надзор за искусственным интеллектом с давними федеральными правилами, регулирующими авиацию, фармацевтику и безопасность пищевых продуктов, Обама настаивал на том, что официальное вмешательство правительства не подлежит обсуждению.
«Правительство должно регулировать это», — сказал он, открыто отвергая рыночный подход, пропагандируемый политическими оппонентами.
Обама оспорил аргумент, приписываемый технологическому инвестору и советнику Трампа Дэвиду Саксу, о том, что рыночные силы и постфактумные судебные иски об ответственности естественным образом будут стимулировать компании устранять риски безопасности. «Нет замены эффективной правительственной регулирующей структуре», — настаивал Обама.
Критика Вашингтона и призыв к действию
Обвинив администрацию Трампа в нежелании и неспособности создать серьезную нормативно-правовую базу, поскольку технологии опережают политику, Обама предупредил, что законодательство каждого штата не может регулировать программное обеспечение, которое работает во всем мире без границ. На данный момент, предположил он, добровольное ограничение деятельности компаний остается единственной доступной мерой, пока федеральное руководство не примет меры.
Завершая свое выступление, бывший президент назвал управление ИИ неотложным политическим испытанием для американских избирателей. «Если у кого-то нет серьезного плана, как с этим справиться, значит, он не соответствует моменту, и вам, вероятно, следует поискать кого-то другого», — сказал Обама.
