AI и Оруэлловский риск: угроза контроля информации
Давид Сакс, американский эксперт по криптовалютам и искусственному интеллекту, считает, что главная опасность ИИ заключается не в бунте, как в фильме "Терминатор", а в возможном будущем, где ИИ будет шпионить за населением и контролировать доступ к информации.
Он высказал это мнение в понедельник в подкасте The Ben & Marc Show компании a16z, обсуждая подход администрации Трампа к регулированию криптовалют и ИИ.
Сакс раскритиковал прежнюю администрацию под руководством бывшего президента США Джо Байдена и текущие «синие штаты», такие как Калифорния и Колорадо, за их строгий подход к законам о защите прав потребителей в области ИИ, направленным на решение проблемы «алгоритмической дискриминации».
Он аргументировал, что чрезмерное регулирование может наклонить работу инструментов ИИ в пользу идеологической предвзятости правительства, что может быть использовано для искажения информации и фактов в угоду определённым политическим задачам.
«Мы действительно говорим о Оруэлловском ИИ. Мы говорим об ИИ, который лжет вам, искажает ответы, переписывает историю в реальном времени для обслуживания текущей политической повестки тех, кто у власти», — сказал он, добавив:
«На этом фоне возникает проблема слежки. ИИ будет знать все о вас. Он будет чем-то вроде вашего личного помощника, и это идеальный инструмент для правительства, чтобы следить и контролировать вас. И для меня это, безусловно, самая большая опасность ИИ.»
Сакс также подчеркнул важность наказания тех, кто злоупотребляет технологией, а не регулирования самих инструментов или компаний, которые их создают.
Он заявил, что избыточное регулирование затруднит соответствие требованиям для компаний по разработке ИИ, так как практически невозможно предусмотреть все способы использования ИИ. Он также заметил, что уже существуют законы для наказания за злоупотребления, такие как законы против дискриминации.
«Предположительно, дискриминация уже является незаконной, так что если вы уже подвержены этому [...] Нам не нужно преследовать разработчиков инструментов, потому что мы можем уже расправляться с бизнесом [пользователем], который принял такие решения», — сказал он.
Регулирование криптовалют vs ИИ
Хотя Сакс настаивал на менее строгом подходе к ИИ для стимулирования инноваций и победы в гонке ИИ, он подчеркнул, что администрация Трампа "за регулирование" криптовалют и стремится установить ясные правила для поддержки этой отрасли.
«С ИИ идея заключается в том, "как нам раскрыть инновации", а с криптовалютой, я думаю, это больше о том, "как создать регулирующую определенность»," — сказал он.