Машина не виновата
Все боялись, что нейросети завалят нас ИИ-слопом. Слопа и правда стало больше — но генерят его не бездушные системы, а вполне конкретные люди. Разбираемся, почему умный на вид бред побеждает качественный контент, что об этом говорят Nature, Science и MIT, и что с этим, в конце концов, делать.
Виктор Бурмистров17 июня9 мин14Нам долго рисовали одну и ту же антиутопию: придут нейросети и зальют интернет «слопом» — низкосортным, абсурдным контентом, от которого слипаются глаза. Слопа действительно стало больше. Загвоздка лишь в том, что генерят его не абстрактные бездушные машины, как обещали в фантастике. Генерят его живые люди. С лицами, аватарами и кнопкой «опубликовать».
Под умным видом и с заголовком поярче (примерно как этот, сверху) они постят такое, за что в более суровые века можно было без очереди отправиться на аутодафе. А в нашем — собрать сорок тысяч просмотров и комментарии в духе «спасибо, открыли глаза». Машина в этой схеме — не автор, а сообщник: она лишь помогает упаковать.
И масштаб у соучастия впечатляющий. Служба мониторинга NewsGuard начала считать сайты, которые публикуют преимущественно сгенерированный ИИ контент почти без человеческого надзора, в мае 2023 года — тогда их нашлось 49. Через полтора года счёт пошёл на тысячи.
Сколько появилось «сайтов-призраков» на ИИ-генерации
Число ненадёжных ресурсов, публикующих в основном автосгенерированный контент. NewsGuard, 16 языков.
Рост более чем в 22 раза за полтора года.
Сцена, достойная «Чёрного зеркала»
Вот характерный экземпляр. В статье, которую мне прислали, автор сообщает: психотерапия, йога и дыхательные практики не работают — всё это с успехом заменяет трёхминутный тест «узнай свой архетип по Юнгу». И да, он полностью изменил ей жизнь.
Снято это, если вдуматься, ровно так, как снял бы Чарли Брукер. Буднично, без всякого восстания машин. Человек третью ночь не спит, берёт телефон — и тёмный экран, вместо того чтобы привычно вернуть усталое отражение, вдруг подсвечивается и сам предлагает: «Три минуты — и узнаешь, кто ты на самом деле». Тест пройден. Экран выдаёт опрятную табличку: архетип, заглавная буква, благородный шрифт. И — ключевой кадр — удовлетворённо гаснет. Терапию можно отменить. Йогу, дыхание, долгий неудобный разговор с собой — в корзину. Зачем копаться годами, если телефон управился за три минуты.
И тут, как всегда у Брукера, нет никакого зла. Тест ничего человеку не сделал — он просто дал то, за чем пришли: справку, что над собой больше можно не работать. Камера отъезжает, и мы видим миллионы таких же экранов, тлеющих в темноте спален, и в каждом — слегка улучшенная, окончательно определившаяся версия хозяина, которая спит сном младенца, потому что отныне не задаёт себе ни одного вопроса.
Человек смотрит в экран смартфона в подсознательной надежде обменять ужас неопределённости на удобную ложь. Обмен, как водится, неравноценный: неопределённость возвращается к утру, а ложь остаётся. И завтра он снова идёт к экрану — за новым тестом, новым гороскопом, новой «лучшей версией себя».
(Простите этот резкий монтажный переход от «Чёрного зеркала» к «Субстанции». Просто люблю умное кино.) Жуть финала ведь не в том, что машина обманула человека. Жуть в том, как искренне человек был этому рад.
Почему броская ложь всегда выигрывает
Самое неприятное здесь — что это не случайность и не глупость отдельного автора. Это математика площадки, и она измерена.
Команда из Nature Human Behaviour прогнала больше ста тысяч вариантов заголовков на платформе Upworthy — 5,7 миллиона кликов, сотни миллионов показов — и обнаружила простую закономерность: каждое лишнее негативное слово в заголовке поднимает кликабельность примерно на 2,3%, а позитивное, наоборот, её опускает. Мозгу не нужна правда. Мозгу нужна тревога.
Что слово в заголовке делает с кликом
Изменение кликабельности при добавлении одного слова в заголовок средней длины.
за каждое негативное слово («худший», «ненависть», «провал»)
за каждое позитивное слово («лучший», «любовь», «радость»)
А исследование MIT, опубликованное в Science, на 126 тысячах историй показало вещь ещё более отрезвляющую: ложь расходится быстрее правды по всем без исключения категориям. Правде нужно примерно в шесть раз больше времени, чтобы добраться до тех же полутора тысяч человек. И виноваты в этом, вопреки удобной версии, не боты. Виноваты люди: ложь новее, а новизну хочется переслать.
Как расходятся правда и ложь
Условное время, за которое сообщение достигает 1500 человек. Чем длиннее полоса — тем медленнее.
Добавьте к этому ещё одну деталь, после которой пропадает всякая вера в человечество как в читателя. Когда исследователи проследили 2,8 миллиона репостов ссылок на крупные новостные сайты, выяснилось: 59% ссылок пересылают, ни разу не открыв. Люди делятся не текстом, а заголовком — точнее, тем чувством, которое заголовок успел вызвать за полсекунды.
Делятся, не читая
Доля ссылок в соцсетях, которыми поделились, но по которым никто так и не кликнул.
И последний кирпич в эту стену. Есть хорошо описанный «эффект иллюзии правды»: одно лишь повторение делает утверждение убедительнее — даже если оно неправдоподобно и даже если человек заранее знает, что это ложь. Достаточно встретить чушь несколько раз в разных лентах, и она начинает казаться «чем-то, в чём что-то есть». Алгоритм же только и делает, что повторяет — то, на что кликают.
Сложите всё вместе — и круг замыкается сам собой. Читатель в турбулентное время жаждет волшебной таблетки. Нейросети любезно помогают недобросовестному автору эту таблетку упаковать. Алгоритм вознаграждает за яркость, а не за правоту. Повторение превращает яркость в «правду». Курировать сложный, подтверждённый исследованиями материал с каждым месяцем дороже и неблагодарнее. И качественное тихо тонет в омуте бреда — не потому, что оно хуже, а потому, что оно медленнее, тише и требует открыть ссылку.
Алгоритм вознаграждает за яркость, а не за правоту. А повторение со временем превращает яркость в «правду».
Что со всем этим делать
Жаловаться на алгоритмы — занятие для тех, у кого много свободного времени и мало самоуважения. Платформу вы не перевоспитаете; она устроена ровно так, как устроена, и считает не ваши убеждения, а ваши клики. Поэтому я предлагаю скучную, зато рабочую альтернативу: собирать своих.
Небольшое сообщество людей, которые сознательно решили не платить вниманием за чужой хайп. Идея до неприличия проста: 20–30 минут в день на качественное чтение — не ленту, а текст, в котором есть мысль. А дальше — встречи, вживую или онлайн, чтобы спорить, разбирать и менять собственные взгляды. Потому что взгляд, который не с кем проверить, костенеет быстрее, чем кажется.
Это не эзотерика и не «расширяющие сознание» вещества — тот хайп отшумел в Америке ещё в семидесятые, и финал у него вышел так себе. Удивляет другое: отчего мы такие слабые, что снова и снова тянемся регрессировать в зависимость — к веществу, к ленте, к гороскопу, к тесту на архетип, — вместо того чтобы потихоньку отращивать внутреннюю устойчивость? Она скучнее. Зато не отбирается вместе с интернетом.
Здесь уместна мысль, выкристаллизовавшаяся у меня за годы работы с огромным числом удивительных людей:
Взросление — это не про то, чтобы накопить побольше фактов. Это про переход на более сложный способ видеть мир: когда ты выдерживаешь противоречие, а не хватаешься за первую попавшуюся таблетку, обещающую всё объяснить.
Развитие ведь бывает горизонтальным — узнал ещё сто фактов того же уровня, прошёл ещё один тест, сменил один ярлык на другой. А бывает вертикальным — стал способен думать на уровень выше, удерживать в голове сложное и противоречивое, не сбегая в готовый ответ. Тесты на архетипы продают первое под видом второго. Настоящая работа — и единственная, которую не заберёт никакой алгоритм, — про второе.
Если такая компания вам по душе — дайте знать. Кажется, нас больше, чем кажется.
Виктор Бурмистров
Бизнес-консультант, executive-коуч и лектор (Eduson, Сколтех, ВШЭ). 15 лет строит компании и управляет командами. В канале @Pradazhizny — о физиологии лидера, устойчивом бизнесе и новой экономике здоровья.
Новые статьи — на почту
Оставьте почту — и получайте свежие материалы, как только они выходят.