Похоже, мы стоим на пороге новой технологической революции. И главные герои в ней - не только сами нейросети, но и те, кто пытается контролировать их “мысли”.
Крупнейшие умы Кремниевой долины, включая Илона Маска, Марка Андрессена и Дэвида Сакса, собрались вокруг избранного президента Дональда Трампа, чтобы порешать, куда двигаться дальше в мире ИИ.
И знаете, что их больше всего беспокоит? Нет, не восстание машин - а то, как большие технологические компании “подкручивают” ответы своих чат-ботов. Это как если бы вы купили нового друга-робота, а он отвечает вам заранее отрепетированными фразами из методички.
Марк Андрессен, который, кстати, проводит примерно половину своего времени в команде Трампа после выборов, бьёт тревогу: “Если вы думали, что цензура в соцсетях - это плохо, то ИИ может быть в тысячу раз хуже!” В интервью с Бари Вайс он нарисовал просто-таки антиутопическую картину: “Представьте мир, где всем управляет ИИ, запрограммированный лгать”.
А вот что интересно - даже сам Илон Маск признаёт, что его чат-бот от xAI получается более “политкорректным”, чем хотелось бы. И дело тут не в какой-то специальной “промывке мозгов” - просто так работает обучение на открытом интернете.
Дэвид Сакс, которого недавно назначили советником Трампа по ИИ и криптовалютам, в своём подкасте All In постоянно критикует Google и OpenAI за то, что они якобы заставляют свои системы быть политкорректными.
“Одна из проблем ChatGPT в самом начале была в том, что он был запрограммирован быть ‘пробуждённым’ и не давал людям правдивых ответов”, - заявил Сакс в ноябре 2023 года.
Интересно и то, как меняется позиция технологических гигантов. Например, глава Meta* Марк Цукерберг недавно извинился перед Конгрессом за то, что поддался давлению администрации Байдена по модерации контента о COVID-19. Он даже назвал это своей “20-летней политической ошибкой” и пообещал больше такого не повторять.
В общем, похоже, что битва за “правду” в ответах ИИ становится новым полем для старой культурной войны между консерваторами и технологическими компаниями. И судя по всему, это только начало - как в своё время с соцсетями, только теперь ставки намного выше.
*признана экстремистской и запрещена в РФ
