Когда интеллект стал дешёвым. Том 3: Доверие. Как создавать основания для доверия, когда меняются доказательства, сделки и отношения

Монетка, которую мы считаем чутьём

Первая линия обороны очевидна: «я отличу». Гладкий безжизненный текст, одинаковый ритм, стеклянные картинки — неужели не видно?

Не видно. Это измерено. Метаанализ60 2024 года собрал 56 исследований с общим счётом больше 86 тысяч участников: людям показывали настоящее и синтетическое — тексты, фото, аудио, видео — и просили отличить. Средняя точность по всем форматам — 55,5 процента. Отдельно для текстов — 52 процента. Подбрасывание монетки даёт 50.61 Наше хвалёное чутьё на машину работает на уровне «орёл или решка».

Дальше — хуже. В эксперименте, опубликованном в Scientific Reports, обычные читатели опознавали стихи ИИ с точностью 46,6 процента — ниже случайной. Сгенерированные стихи они чаще принимали за человеческие, чем настоящие человеческие, — и оценивали их выше по ритму и красоте.62 А в исследовании Джонса и Бергена, опубликованном в PNAS в мае 2026 года, участники по пять минут одновременно переписывались с человеком и моделью. Когда GPT-4.5 заранее дали ролевую инструкцию — попросили играть правдоподобного человека, — её выбирали человеком в 73 процентах раундов. Без такой инструкции — в 36 процентах.63

Ещё раз: в этом конкретном формате машина показалась участникам человечнее человека. Не потому, что она стала живой, — потому что она выучила наши ожидания от «живого» и попадает в них точнее, чем мы сами. У живого текста бывают усталость, тяжеловесные фразы после трудного дня, слишком ровные абзацы отличника. У синтетического — идеально дозированная человечность.

Вывод неприятный, но честный. Когда мы говорим «сразу видно, что писал ИИ», мы описываем не своё зрение, а свою уверенность. Различить на глаз нельзя. И всё, что мы строим на этом «сразу видно» — обвинения, оценки, отказы, — построено на монетке.

Казалось бы, решение напрашивается: раз глаз не справляется, позовём машину против машины.

Судья, который сам провалил экзамен

Программы-детекторы64 обещают ровно это: загрузите текст — получите «процент сгенерированности»65. Число выглядит как измерение. Твёрдое, объективное, бесстрастное.

Вот только сам главный производитель ИИ-текстов в мире в это число не верит. В начале 2023 года OpenAI, компания, создавшая ChatGPT, выпустила собственный публичный детектор ИИ-текста. Через полгода она тихо его закрыла с формулировкой «из-за низкой точности»: по собственным данным компании, инструмент опознавал лишь около четверти машинных текстов — и при этом в девяти случаях из ста объявлял машинным текст, написанный человеком.66 Позже, отвечая на вопросы преподавателей, OpenAI сформулировала позицию прямее некуда: «Работают ли детекторы ИИ? Коротко — нет». Ни один инструмент, писала компания, не доказал, что надёжно отличает сгенерированный текст от человеческого. И добавила деталь, которую стоило бы печатать на упаковке каждого детектора: при тестировании её собственный классификатор помечал как «написанные ИИ» тексты Шекспира и Декларацию независимости США.67

Этот эпизод нам ещё пригодится. Компания, которой выгодно было бы продать миру и генератор, и детектор к нему, публично признала: детектора нет. Это не заговор скептиков — это позиция создателя технологии.

Почему же детекторами продолжают пользоваться школы, вузы, редакции и работодатели? Потому что спрос на определённость не исчезает от того, что определённости нет. Кто-то должен сказать «этот текст чист», — и «процент» на экране даёт утешительное ощущение, что сказала наука.

А теперь посмотрим, кого этот «процент» бьёт первым. Лян и соавторы в исследовании, опубликованном в журнале Patterns, прогнали через семь популярных детекторов эссе, написанные живыми людьми. На текстах носителей английского детекторы работали почти идеально. А эссе студентов, для которых английский — не родной, детекторы объявили сгенерированными в шести случаях из десяти.68 Логика поломки проста: детектор ищет «слишком ровный» язык — небогатый словарь, правильные предсказуемые конструкции. Именно так пишет добросовестный человек на неродном языке. И именно так пишет старательный отличник, вычитавший свой текст три раза.

Детектор принимает аккуратность за признак машинности. Поэтому чаще всего он ошибается на самых добросовестных.

Цена ложного срабатывания — чья-то жизнь

До этого места история была теоретической: проценты, эксперименты, метаанализы. Теперь — три человека, для которых она теорией не была.

Марли Стивенс, студентка университета в Джорджии, сдала обычное эссе. Система Turnitin, которой пользовался вуз, пометила работу как сгенерированную. Дальше события развивались с бюрократической неотвратимостью: ноль за эссе, академический испытательный срок, потеря стипендии — около четырёх тысяч долларов. Из ИИ-инструментов Стивенс пользовалась только браузерным Grammarly — по сути, продвинутой проверкой орфографии, которую сам университет рекомендовал студентам. Её видео об этой истории собрало миллионы просмотров, а под ним — поток комментариев от студентов, помеченных так же несправедливо.

У истории два финала, и оба показательные. Grammarly компенсировала студентке потерянные четыре тысячи. А спустя год, на волне таких же историй, выпустила новый продукт — Authorship: инструмент, которым студент может заранее записывать процесс своей работы, чтобы в случае обвинения доказать авторство. Вдумайтесь в саму категорию этого товара. Не «поймать машину» — а «доказать, что ты человек». На наших глазах родился рынок алиби.69

История вторая — и она была бы смешной, если бы не была такой грустной. Май 2023 года, Университет A&M-Commerce в Техасе. Преподаватель, заподозрив группу в использовании ChatGPT, придумал проверку гениальной простоты: скопировал работы студентов в сам ChatGPT и спросил — это ты писал? Бот с готовностью «признался» во всех. Всей группе задержали оценки, под угрозой оказались дипломы; в системе оценок преподаватель написал: «Я не оцениваю ИИ-дерьмо».

Короткое техническое пояснение — в нём вся суть. Языковая модель не помнит, что она писала. У неё нет архива своих текстов и нет способа узнать свой продукт; спросить у ChatGPT «ты это писал?» — всё равно что спросить у печатной машинки, её ли это буквы. Бот отвечает не правду, а правдоподобное — мы разбирали это свойство в первой главе. Преподаватель использовал генератор правдоподобия как детектор истины — и получил правдоподобные признания за всех.

Несколько студентов предъявили датированные версии Google Docs и показали, как работы менялись во времени. Затем университет разобрал случаи индивидуально и сообщил: никто не провалил курс, а этот эпизод не помешал ни одному студенту окончить университет.70 Версии редактирования документов не вынесли оправдательный приговор сами. Они перевели разговор с чат-бота, который выдумывал собственное авторство, на процесс работы. Оцените асимметрию: обвинение стоило преподавателю одной вставки в чат-бот. Оправдание потребовало документированной истории черновиков.

История третья — про писателя под судом машин. В мае 2026 года разгорелся скандал вокруг Commonwealth Short Story Prize — международной литературной премии. Рассказ регионального победителя Джамира Назира показался подозрительным; издатель Granta, Сигрид Раусинг, прогнала текст через Claude — и модель ответила, что он «почти наверняка не создан человеком без помощи»; коммерческий детектор Pangram выдал «100% ИИ». Автор твёрдо отвечал, что писал сам. Фонд не стал отвечать детектором на детектор. Он обсудил с региональными победителями их творческий процесс и изучил рабочие черновики, датированные документы и заметки. После этого организация заявила, что удовлетворена совокупностью свидетельств и считает, что ИИ не использовался при написании победивших рассказов. Через месяц Назир выиграл и главный приз года.71 Посмотрите, что именно его оправдало. Не детектор — детекторы как раз голосовали за обвинение и противоречили живым судьям. Оправдало его решение людей, готовых отвечать за свой вердикт. А если бы жюри поверило «проценту»? Мы уже видели этот финал: писательница, у которой издатель отозвал готовый роман по стилистическим приметам, реабилитации не дождалась. Обратный тест Тьюринга сам по себе не предусматривает оправдательного приговора — любое «я писал сам» звучит ровно так же, как звучало бы и враньё. Оправдание приходится строить из другого материала.

Подозрение теперь бесплатно. Дорого стоит только оправдание.

Сорок один процент и девяносто одна сотая

В России этот жанр развернулся там, где ставки для обычного человека едва ли не выше всего, — в сезоне дипломов.

Весной 2026 года «Коммерсантъ» описал массовое явление: вузовская система «Антиплагиат», обзаведясь модулем определения ИИ-текста, начала помечать как сгенерированные живые дипломные и курсовые работы. У одной студентки система нашла «96% якобы сгенерированного текста» в работе, которую она писала сама. Голоса студентов из той статьи стоит привести дословно: «Даже если находится 1% генерации, человека просто не допускают до защиты». И второй, ещё выразительнее — о том, во что превращается текст после «очистки» под детектор: «Делать из своего научного труда работу пятиклассника». Узнаёте? Это та же писательница, стирающая своё тире, — только теперь на кону не лайки, а допуск к защите. Разработчик системы при этом заявляет, что вероятность ошибки «не превышает 1%», — заявление вендора, независимой публичной проверки которого нет.72

А теперь — история, ради которой этот блок написан. В первом отчёте «Антиплагиат. Вуз» указал 41,91 процента вероятного ИИ-контента в дипломе студентки четвёртого курса лингвистического факультета. Затем научный руководитель отдельно заявила, что более чем в 70 процентах текста намеренно нарушены логические связи, и расценила это как фальсификацию. При следующей проверке система показала 11,92 процента, но университет отказался принимать результат, сославшись на срок подачи. Один и тот же диплом, одна и та же система, три вердикта. Вуз отчисляет её по результатам первой проверки.

Летом 2026 года Верховный суд Татарстана признал отчисление незаконным и восстановил студентку. В решении сказано прямо: отчёт системы детекции «носит вероятностный характер», а «окончательное решение остаётся за экспертом» — то есть за человеком. С вуза взыскали компенсацию морального вреда и штраф.

Машина, дающая на один и тот же текст три разных ответа, — не измерительный прибор. Это генератор подозрений. И потребовался суд — институт с презумпцией невиновности, изобретённый задолго до нейросетей, — чтобы сказать очевидное: «процент» на экране не может быть приговором, приговор выносит только тот, кто способен за него отвечать.73

Из этой истории вырастает правило, которое стоит унести из главы, даже если забудется всё остальное: не выноси приговор по детектору. «Процент» — повод задать вопросы. Основание для решения — только след работы и живой разбор. Это касается преподавателя, редактора, руководителя — любого, кто сегодня оказывается в кресле судьи. Антифрод-системы в банках, внутри которых я прожил больше двадцати лет, не работают по одной универсальной схеме. В зависимости от риска операция может пройти, потребовать дополнительного подтверждения, уйти на удержание или быть отклонена автоматически. Но у решения есть порог, владелец, журнал и маршрут оспаривания. Для текста нужен тот же принцип: не обязательный ручной клик на каждом шаге, а правило, по которому «процент» превращается — или не превращается — в действие с последствиями.

Если ничего нельзя доказать — всё можно отрицать

У неразличимости, которую мы разобрали, есть вторая половина, и она зеркальная. Если настоящее не отличить от подделки — то и подделку не отличить от настоящего. А значит, человек, пойманный на настоящем, может объявить его подделкой.

У этого приёма есть имя — «дивиденд лжеца»74: выгода, которую сама возможность дипфейков приносит лжецам. Термин предложили в 2019 году американские правоведы Роберт Чесни и Даниэль Ситрон — заметьте, раньше, чем ChatGPT появился на свет. А в 2024 году журнал American Political Science Review опубликовал серию из пяти экспериментов с участием более пятнадцати тысяч человек: политики, объявлявшие реальный компромат «фейком и дезинформацией», действительно удерживали поддержку избирателей — ложный крик «это подделка!» работал.75 Исследователи добавляют отрезвляющую деталь: против видео приём работает хуже, чем против текста, — но граница смещается вместе с технологией.

Мы начали книгу с того, что фотография больше не закрывает спор. Вот цена этого в полный рост: исчезает не только доверие к подделке — исчезает общее доказательство события. Ещё недавно запись была последним словом: вот плёнка, вот подпись, вот скриншот. Теперь у любого последнего слова есть ответ: «сгенерировано». Обратный тест Тьюринга и дивиденд лжеца — две стороны одной монеты: в мире, где всё может быть синтетикой, невиновному нечем доказать невиновность, а виновному есть чем отрицать вину.

И чтобы замкнуть картину — короткая история о том, как сам страх перед синтетикой оказался отчасти синтетическим. Вы наверняка встречали цифру: «к 2026 году до 90 процентов онлайн-контента будет сгенерировано ИИ». Её цитировали серьёзные издания со ссылкой на Европол. Проследим происхождение. Прогноз дал руководитель компании Synthesia — вендора синтетического видео, то есть человек, продающий предмет прогноза, — в книге 2020 года. Из книги фраза перекочевала в отчёт Европола 2022 года в виде «по оценкам экспертов», из отчёта — в мировые СМИ уже как «данные Европола». А при обновлении отчёта в 2024 году Европол утверждение тихо убрал. Никаких измерений, подтверждающих «90 процентов», не существовало вовсе.76 Цифра о синтетике сама прошла полный цикл синтетики: рождена интересом, легализована пересказом, растиражирована доверием к бренду. Первый вопрос книги — «откуда это взялось?» — работает и здесь.

След работает лучше клятвы

Соберём защиту. Она проста, ничего не стоит и начинает работать ещё до обвинения.

Сначала — для тех, кто судит. В каждом из нас, как мы помним, живут два режима. В этой главе они впервые меняются местами: «Я доверяю» и «Я проверяю» садятся в кресло судьи. И тумблер у них прежний — цена ошибки, только теперь это цена чужой судьбы. Заподозрить текст в машинности ничего не стоит. Поставить ноль, отклонить кандидата, отозвать премию, отчислить студентку — стоит чьей-то стипендии, репутации, года жизни. Поэтому правило судьи: чем дороже последствия обвинения, тем меньше права решать имеет «процент» на экране. Сомневаешься — спроси след: черновики, версии, историю правок, данные. Их предъявление занимает минуты. А их отсутствие — само по себе информация, только совсем другого веса, чем «41,91%».

Теперь — для тех, кого судят. То есть для всех. Здесь у правила прежнее зеркало: вы — не только тот, кто проверяет, но и тот, кого проверяют. И лучший момент готовить защиту — до обвинения. Сохраняйте след работы. Пишите важные тексты там, где остаётся история версий, — Google Docs и Word делают это сами. Не удаляйте черновики и исходники: у фотографа это RAW-файл77, у аналитика — данные и расчёт, у разработчика — история коммитов, у автора — папка с версиями. Датируйте этапы. Письмо с приложенным черновиком, защищённая история документа или коммит создают дополнительную временную отметку — не нотариальное заверение и не доказательство сами по себе. Чем дороже возможный спор, тем важнее не один артефакт, а согласованность нескольких: версии совпадают с источниками, расчёт воспроизводится, а автор способен объяснить ключевые решения. Это займёт меньше усилий, чем один спор с детектором, — потому что след собирается привычкой, а спор съедает недели.

Сразу оговорка: история версий не доказывает, что ИИ не использовался. Его можно подключать поэтапно; самостоятельно написанный текст можно перенести из другого редактора; человек может работать без облачного журнала. След нужен не для нового автоматического приговора. Он нужен, чтобы заменить спор о стиле проверяемыми вопросами: когда появилась ключевая мысль, откуда взялась цифра, почему выбран этот аргумент, можно ли воспроизвести расчёт, согласуются ли версии с источниками и объяснением автора.

Такой след не устанавливает невиновность автоматически. Он повышает стоимость ложного обвинения и стоимость подделки процесса. Клятва просит поверить; согласующиеся свидетельства дают материал для проверки. Из первой главы мы знаем это правило в общем виде: не заставляйте верить на слово — дайте способ убедиться. Теперь у него появилось личное измерение: в эпоху обратного теста Тьюринга след работы — ваше единственное вещественное доказательство человечности. Начатое здесь мы дорастим в конце книги до целой стратегии: согласованный след может стать и защитой, и капиталом.

И последнее — про сам экзамен. Не сдавайте его на условиях толпы. Не стирайте своё тире, не обедняйте словарь, не делайте из научного труда «работу пятиклассника», чтобы понравиться детектору, — эта гонка проиграна заранее, потому что модели учатся на человеческом письме и всегда будут писать «по-человечески» лучше, чем напуганный человек — «по-живому». Ваша человечность не в приметах стиля. Она в том, что за вашим текстом есть путь: время, версии, решения, ошибки. Путь нельзя сгенерировать задним числом. Его можно только пройти — и сохранить.

Карикатура Стайнера из эпиграфа за тридцать лет не постарела — она просто сменила смысл. В интернете по-прежнему никто не знает, что ты собака. Но теперь никто не знает и что ты человек. Разница в одном: у человека есть черновики.

Практикум к книге

В Практикуме к этой главе лежат:

• след работы «до обвинения» — история версий, сохранённые черновики и бесплатное датирование: одна настройка, которая пригодится через год;

• два протокола обвинения — что делать, если обвинили вас, и что проверить, если решение выносите вы.

Открыть Практикум: https://cheap-intelligence.vercel.app/

Глава за минуту

1. Тест Тьюринга развернулся. Машина научилась казаться человеком — теперь человек доказывает, что он не машина: студент подтверждает авторство дипломной работы, писатель — романа, кандидат — отклика на вакансию. Презумпции невиновности в этом экзамене нет.

2. Распознавание — монетка. Измеренная средняя точность людей по всем форматам — 55,5%; отдельно для текстов — 52%. Стихи ИИ читатели чаще считали человеческими, чем стихи настоящих поэтов, а GPT-4.5 с ролевой инструкцией в тесте Тьюринга выбирали человеком в 73% раундов; без неё — в 36%. «Я отличу на глаз» — не проверка реальности, а уровень уверенности.

3. Детектор — не приговор. OpenAI закрыла собственный детектор «из-за низкой точности» и прямо ответила педагогам: надёжных детекторов нет. Программы штрафуют неносителей языка и добросовестных, а суд в Татарстане показал, как вероятностный отчёт превращается в санкцию внутри сломанной процедуры. «Процент» — повод для вопросов, решает человек и след.

4. След работает лучше клятвы. Черновики, история версий, источники и датированные этапы не выносят оправдательного приговора, но дают материал для проверки. Чем согласованнее след, тем труднее заменить разбор заверением «я писал сам» или одним «процентом». А дивиденд лжеца напоминает: проверка нужна в обе стороны — и подделке, и крику «это подделка!».

Как объяснить близким.

• Студенту или школьнику: «Если обвинят, что за тебя писал ИИ, — не клянись. Покажи историю версий, источники и черновики, объясни путь к результату. Такой след можно проверить; одного заверения недостаточно».

• Коллеге, который судит: «Процент» на экране детектора — не приговор. Даже OpenAI закрыла свой детектор за ненадёжность. Прежде чем обвинять — спроси у человека след работы.

Детектор не отвечает за свой «процент». Отвечает тот, кто ему поверил.

К следующей главе

Мы разобрались, как проверяют одного человека и один текст. Но подделка давно научилась работать оптом. Сорок тёплых отзывов из первой главы — лишь витрина массового производства подделок: сегодня генерируются не только мнения, но и сами их носители — довольные клиенты, состоявшиеся эксперты, целые толпы, у которых есть лица, биографии и твёрдое мнение о вашем бизнесе.

Один такой несуществующий отзыв — мелочь. Но когда несуществующие гости приходят толпой, рейтинг настоящего ресторана падает за один вечер. В следующей главе — о том, почему разрушение репутации продаётся пакетом, а на её восстановление уходят месяцы.

Глава 4. Синтетическая репутация

Толпу можно заказать. Проверяемую репутацию приходится строить по ступеням

«Ложь летит, а правда ковыляет за ней следом; когда люди наконец разубеждены — уже поздно: шутка сыграна, и басня возымела действие».

— Джонатан Свифт, журнал The Examiner, 171078

Вопрос главы: чего стоит мнение толпы — рейтинг, отзывы, подписчики, хор экспертов, — если толпу теперь можно заказать, как пиццу?

Обещание: показать, из чего на самом деле состоит репутация, почему её разрушение и восстановление стоят по разным прейскурантам — и как проверять чужую толпу и строить собственную репутацию так, чтобы её нельзя было ни купить, ни обрушить за вечер.

Субботний вечер, Чикаго, район Голд-Кост. Ресторан Alpana работает штатно: бронирования, кухня, зал. А в телефоне владелицы тем временем ужинают другие гости — те, которых в зале никто не видел. За несколько часов на странице ресторана в Google появляются пятнадцать отзывов с одной звездой. Тексты усреднённо-обиженные, как под копирку: хозяйка грубила, еда остыла, столы липкие. Рейтинг падает с 4,5 до 4,1. Для ресторана среднего и высокого сегмента это, по словам самой владелицы, «смертельный удар»: десятые доли рейтинга решают, забронирует ли столик человек, выбирающий между тремя заведениями на карте.79

Дальше схема раскрывает себя. Один из «обиженных гостей» — аккаунт с именем Peter Vicious, «Питер Злобный», — предлагает владелице написать ему в WhatsApp (принадлежит Meta Platforms Inc., признанной экстремистской организацией; её деятельность в России запрещена), чтобы «решить вопрос с отзывом». Схема озвучивается без стеснения: платите — отзывы исчезнут, не платите — завтра придут новые.

Владелицу зовут Алпана Сингх, и она поступила ровно так, как советует эта книга, — но об этом чуть позже. Сначала оглядимся: её субботний вечер не был особенным. В ту же осень модный омакасэ-ресторан SHŌ в другом районе Чикаго собрал двадцать однозвёздочных отзывов за три-четыре ночных часа. Ресторану Beity прилетели тексты, почти дословно совпадающие с отзывами на заведение в другом конце города. Семейная аптека Danny’s Pharmacy за один день упала с 4,9 до 4,1 — а вымогатель пообещал добавлять по пятнадцать отзывов ежедневно, пока не заплатят. Глава ресторанной ассоциации Иллинойса говорил о всплеске таких атак за полгода, а профильный наблюдатель Fake Review Watch к тому времени насчитал больше ста пятидесяти атакованных бизнесов по всему миру.80 Той же осенью The New York Times описала эту волну как глобальную индустрию.81

В прошлой главе человек доказывал, что его работа — его. Здесь ставка выше на один этаж: бизнесу приходится доказывать, что его клиенты — существуют. А клиентам — что сорок восторгов на странице написали не те же люди, что и пятнадцать проклятий. Я буду называть это синтетической репутацией82: видимость общественного одобрения или осуждения, за которой нет заявленной толпы независимых людей. Явление старше генеративного ИИ. Новое не в самом обмане, а в его себестоимости: модели удешевляют тексты, вариативность и персонализацию, хотя аккаунты, доставка и обход модерации по-прежнему требуют инфраструктуры.