Сэм Альтман из OpenAI призывает к регулированию ИИ на слушаниях в Сенате
Тон слушаний в Конгрессе с участием руководителей технологической отрасли в последние годы лучше всего можно охарактеризовать как антагонистический. Марк Цукерберг, Джефф Безос и другие светила технологий были разоблачены на Капитолийском холме законодателями, недовольными их компаниями.
Но во вторник Сэм Альтман, генеральный директор стартапа OpenAI из Сан-Франциско, дал показания перед членами подкомитета Сената и в значительной степени согласился с ними в отношении необходимости регулировать все более мощную технологию искусственного интеллекта, создаваемую в его компании и других компаниях, таких как Google и Microsoft.
В своих первых показаниях в Конгрессе Альтман призвал законодателей регулировать искусственный интеллект, поскольку члены комитета продемонстрировали растущее понимание этой технологии. Слушания подчеркнули глубокую тревогу, которую технологи и власти испытывают по поводу потенциального вреда ИИ. Но это беспокойство не касалось г-на Альтмана, у которого была дружеская аудиенция среди членов подкомитета.
Появление г-на Альтмана, 38-летнего бросившего Стэнфордский университет и предпринимателя в области технологий, стало его крещением как ведущей фигуры в области ИИ. Мальчишеский мистер Альтман сменил свой обычный свитер и джинсы на синий костюм и галстук для трехчасового слушания.
Г-н Альтман также рассказал о технологиях компании на ужине с десятками членов Палаты представителей в понедельник вечером, а перед слушанием в частном порядке встретился с рядом сенаторов. Он предложил свободную структуру для управления тем, что произойдет дальше с быстро развивающимися системами, которые, по мнению некоторых, могут коренным образом изменить экономику.
«Я думаю, что если эта технология пойдет не так, все может пойти очень плохо. И мы хотим открыто заявить об этом, — сказал он. — Мы хотим работать с правительством, чтобы этого не произошло».
Г-н Альтман публично дебютировал на Капитолийском холме, поскольку интерес к ИИ резко возрос. Технологические гиганты вложили усилия и миллиарды долларов в то, что они называют преобразующей технологией, даже несмотря на растущую обеспокоенность по поводу роли ИИ в распространении дезинформации, уничтожении рабочих мест и однажды сравнявшемся с человеческим интеллектом.
Это привлекло внимание к этой технологии в Вашингтоне. Президент Байден заявил в этом месяце на встрече группы руководителей компаний, занимающихся искусственным интеллектом, что «то, что вы делаете, имеет огромный потенциал и огромную опасность». Высшие лидеры в Конгрессе также пообещали регулирование ИИ.
То, что члены сенатского подкомитета по конфиденциальности, технологиям и законодательству не планировали жесткого допроса г-на Альтмана, было ясно, когда они поблагодарили г-на Альтмана за его частную встречу с ними и за согласие явиться на слушание. Кори Букер, демократ из Нью-Джерси, неоднократно называл г-на Альтмана по имени.
На слушаниях к г-ну Альтману присоединились Кристина Мартин, глава отдела конфиденциальности и доверия IBM, и Гэри Маркус, известный профессор и частый критик технологии искусственного интеллекта.
Альтман сказал, что технология компании может уничтожить некоторые рабочие места, но также и создать новые, и что «правительствам будет важно выяснить, как мы хотим их сократить». Он предложил создать агентство, которое выдает лицензии на создание крупных моделей ИИ, правила техники безопасности и тесты, которые должны пройти модели ИИ, прежде чем они будут выпущены для широкой публики.
«Мы считаем, что преимущества инструментов, которые мы использовали до сих пор, перевешивают риски, но обеспечение их безопасности имеет решающее значение для нашей работы», — сказал Альтман.
Но было неясно, как законодатели отреагируют на призыв регулировать ИИ. Послужной список Конгресса по техническим регламентам уныл. Десятки законопроектов о конфиденциальности, защите слова и безопасности провалились за последнее десятилетие из-за межпартийных споров и яростного противодействия со стороны технологических гигантов.
Соединенные Штаты последовали за миром в отношении правил конфиденциальности, защиты речи и детей. Это также соответствует правилам ИИ. Законодатели ЕС введут правила для этой технологии позже в этом году. И Китай создал законы об искусственном интеллекте, которые соответствуют законам о цензуре.
Сенатор Ричард Блюменталь, демократ от Коннектикута и председатель сенатской коллегии, сказал, что слушания были первыми в серии, на которых больше узнали о потенциальных преимуществах и вреде ИИ, чтобы в конечном итоге «написать правила» для него.
Он также признал неспособность Конгресса идти в ногу с внедрением новых технологий в прошлом. «Наша цель — демистифицировать и привлечь к ответственности новые технологии, чтобы избежать некоторых ошибок прошлого», — сказал Блюменталь. «Конгресс не смог удовлетворить момент социальных сетей».
Члены подкомитета предложили создать независимое агентство для надзора за ИИ; правила, заставляющие компании раскрывать информацию о том, как работают их модели и какие наборы данных они используют; и антимонопольные правила, чтобы не допустить монополизации развивающихся рынков такими компаниями, как Microsoft и Google.
«Дьявол кроется в деталях», — сказала Сара Майерс Уэст, исполнительный директор AI Now Institute, центра политических исследований. Она сказала, что предложенные г-ном Альтманом правила не заходят достаточно далеко и должны включать ограничения на использование ИИ в полиции и использование биометрических данных. Она отметила, что г-н Альтман не показал никаких признаков замедления разработки инструмента OpenAI ChatGPT.
«Так иронично видеть озабоченность по поводу вреда со стороны людей, которые быстро запускают в коммерческое использование систему, ответственную за этот вред», — сказал Уэст.
Некоторые законодатели на слушаниях по-прежнему указывали на сохраняющийся разрыв в технологических ноу-хау между Вашингтоном и Силиконовой долиной. Линдси Грэм, республиканец из Южной Каролины, неоднократно спрашивала свидетелей, распространяется ли защита ответственности за слова для онлайн-платформ, таких как Facebook и Google, на ИИ.
Г-н Альтман, спокойный и невозмутимый, несколько раз пытался провести различие между ИИ и социальными сетями. «Нам нужно работать вместе, чтобы найти совершенно новый подход», — сказал он.
Некоторые члены подкомитета также продемонстрировали нежелание слишком жестко расправляться с отраслью, которая сулит большие экономические перспективы для Соединенных Штатов и напрямую конкурирует с такими противниками, как Китай.
Китайцы создают искусственный интеллект, который «укрепляет основные ценности Коммунистической партии Китая и китайской системы», — заявил демократ от штата Делавэр Крис Кунс. «И меня беспокоит то, как мы продвигаем ИИ, который усиливает и укрепляет открытые рынки, открытые общества и демократию».
Некоторые из самых сложных вопросов и комментариев г-ну Альтману поступили от доктора Маркуса, который отметил, что OpenAI не раскрывает данные, которые использует для разработки своих систем. Он выразил сомнение в предсказании г-на Альтмана о том, что новые рабочие места заменят тех, кого убил ИИ.
«Здесь у нас есть беспрецедентные возможности, но мы также сталкиваемся с настоящим штормом корпоративной безответственности, широким распространением, отсутствием надлежащего регулирования и присущей ненадежностью», — сказал доктор Маркус.
Технологические компании утверждают, что Конгрессу следует с осторожностью относиться к любым общим правилам, объединяющим разные типы ИИ. На слушаниях во вторник Мартин из IBM призвал к принятию закона об искусственном интеллекте, аналогичного предложенным европейским правилам, которые определяют разные уровни риска. Она призвала к правилам, которые сосредоточены на конкретных областях использования, а не на самой технологии.
«По своей сути ИИ — это всего лишь инструмент, а инструменты могут служить разным целям», — сказала она, добавив, что Конгресс должен применить «точный подход к регулированию ИИ».
