Похоже, мы стоим на пороге новой технологической революции. И главные герои в ней — не только сами нейросети, но и те, кто пытается контролировать их «мысли».
Крупнейшие умы Кремниевой долины, включая Илона Маска, Марка Андрессена и Дэвида Сакса, собрались вокруг избранного президента Дональда Трампа, чтобы порешать, куда двигаться дальше в мире ИИ.
И знаете, что их больше всего беспокоит? Нет, не восстание машин — а то, как большие технологические компании «подкручивают» ответы своих чат-ботов. Это как если бы вы купили нового друга-робота, а он отвечает вам заранее отрепетированными фразами из методички.
Марк Андрессен, который, кстати, проводит примерно половину своего времени в команде Трампа после выборов, бьёт тревогу: «Если вы думали, что цензура в соцсетях — это плохо, то ИИ может быть в тысячу раз хуже!» В интервью с Бари Вайс он нарисовал просто-таки антиутопическую картину: «Представьте мир, где всем управляет ИИ, запрограммированный лгать».
А вот что интересно — даже сам Илон Маск признаёт, что его чат-бот от xAI получается более «политкорректным», чем хотелось бы. И дело тут не в какой-то специальной «промывке мозгов» — просто так работает обучение на открытом интернете.
Дэвид Сакс, которого недавно назначили советником Трампа по ИИ и криптовалютам, в своём подкасте All In постоянно критикует Google и OpenAI за то, что они якобы заставляют свои системы быть политкорректными.
«Одна из проблем ChatGPT в самом начале была в том, что он был запрограммирован быть ‘пробуждённым’ и не давал людям правдивых ответов», — заявил Сакс в ноябре 2023 года.
Интересно и то, как меняется позиция технологических гигантов. Например, глава Meta* Марк Цукерберг недавно извинился перед Конгрессом за то, что поддался давлению администрации Байдена по модерации контента о COVID-19. Он даже назвал это своей «20-летней политической ошибкой» и пообещал больше такого не повторять.
В общем, похоже, что битва за «правду» в ответах ИИ становится новым полем для старой культурной войны между консерваторами и технологическими компаниями. И судя по всему, это только начало — как в своё время с соцсетями, только теперь ставки намного выше.
*признана экстремистской и запрещена в РФ
