На днях моя хорошая подруга Катя Кляйн, директор по контенту «Звука», написала у себя в сторис пост — как понять, что текст написан ИИ. Все вокруг обсуждают это довольно абстрактно: «ну я просто читаю и сразу понятно». А как понял-то?
Катя предложила конкретный признак. ИИ любит уточнять мысль через отрицание — там, где человек сказал бы прямо. Классика: «это не про X, а про Y». Причем X до этого в тексте вообще не было, и мысль не требовала никакого противопоставления. Модель сама придумывает ложную альтернативу, сама ее отрицает, а потом торжественно объясняет, что имела в виду на самом деле. Катя удачно назвала это риторическим газлайтингом.
Второй признак — слово «почти». «Это почти как Y, но…» Опять искусственная сложность там, где ее не было.
И честная оговорка от нее же: она знает живых людей, которые за последнее время поднабрались этих оборотов из переписки с ИИ. Так что даже у людей это уже не стопроцентный маркер.
Что говорит наука
Я решил проверить, насколько вообще люди хороши в этом деле. Оказалось — плохи. В 2025 году немецкие исследователи дали 63 преподавателям полсотни фрагментов студенческих работ и попросили угадать, где текст, а где ИИ. Точность — 57%. Это чуть лучше подбрасывания монетки. Хуже всего распознавались именно хорошие ИИ-тексты — стройные и аккуратные почти всегда принимали за человеческие.
Причина простая: модели пишут «слишком правильно». Логично, ровно, последовательно — как нас учили в школе. А живой текст спотыкается там, где спотыкается конкретный человек, и это невозможно подделать системно.
Из того, что реально повторяется у разных людей:
- общие слова вместо конкретных фактов и цифр
- штампы вроде «стоит отметить», «важно понимать», «в современном мире»
- слишком ровный ритм — все абзацы одной длины
- обязательный вывод в конце, даже если текст мог просто закончиться
- вместо личного случая — «многие сталкиваются»
- идеальная грамматика без единой шероховатости
Пример, который сложно забыть
У журнала «Нож» была история: вышел материал по психологии, который целиком написала нейросеть. ИИ придумал для статьи несуществующее расстройство, вымышленных экспертов и цитату из Витгенштейна, которую тот никогда не говорил. Выглядело все убедительно — пока кто-то не решил проверить источники.
Издатель «Ножа» Анна Олефиренко рассказывает, что в редакции стали внимательнее относиться к этому вопросу сразу по двум причинам: авторы начали без стеснения выдавать тексты нейросетей за свои, а затем вышло расследование об ИИ-текстах в книгах одного крупного издательства. По ее наблюдению, живой текст неровный — автор сам расставляет акценты и может сфокусироваться на одной детали, тогда как текст нейросети чересчур функционален: каждое предложение обслуживает предыдущее, ничего не торчит, все гладко и по-хирургически стерильно. Она выделяет четыре конкретных признака: любовь ИИ к перечислениям из трех элементов и симметричным конструкциям вроде «не только... но и»; обтекаемые обороты типа «важно понимать» и «стоит отметить», которые звучат содержательно, но при разборе оказываются пустышкой; отсутствие позиции — живой автор, даже нейтральный, где-то проговаривается или допускает легкую иронию, а текст ИИ всегда предельно безопасен и не идет на риск; и избыточную завершенность — ИИ снимает любые двусмысленности, тогда как у хорошего автора часто остается недосказанность или риторический вопрос.
Медиапродюсер Ксения Черникова смотрит на вопрос со стороны редакции: ИИ часто пишет слишком идеально или слишком нейтрально, и если такой текст опубликовать без подписи, узнать по стилю конкретное медиа будет невозможно. Авторский текст, по ее словам, всегда держится на метафорах, иронии и личном опыте — и в этом смысле имеет собственный узнаваемый голос.
Похожий, но более технический взгляд — у сооснователей Бюро исследований И2. Илья Епишкин выделяет набор паттернов, которые в сочетании довольно легко считываются: обилие длинных тире и двоеточий, короткие рубленые предложения, постоянные противопоставления, повторение одной и той же мысли разными словами. При этом он предупреждает: граница размывается — в США уже фиксируют, что подростки после долгого общения с ИИ перенимают его манеру речи, и отличить их собственные фразы от сгенерированных становится трудно. А по смыслам, добавляет Епишкин, при точном промптинге ИИ формулирует мысли достаточно убедительно — иногда даже слишком хорошо, но эти тексты часто оторваны от актуального контекста и звучат слишком общо.
Второй сооснователь бюро, Илья Чиркин, формулирует критерий проще некуда: если за буквами чувствуется человек — его несовершенства, сомнения, — значит, писал живой человек. А если этого ощущения не возникло, значит, писал либо слабый автор, либо нейросеть.
Вячеслав Шинкарук, замдиректора Ситуационно-информационного центра Минтранса, заходит с неожиданной стороны — через Булата Окуджаву, который в одной из своих песен сравнил манеру письма с манерой дышать: у каждого она своя и узнаваемая. По мысли Шинкарука, человеческое мышление нелинейно и местами обрывисто — примерно как дыхание, — и в хорошем тексте это чувствуется через контекст и подтекст каждой фразы. При этом сравнивать живой текст и текст ИИ с этической точки зрения он считает бессмысленным: наслаждаться хорошей литературой и использовать LLM для поиска и обучения — вещи одинаково ценные, просто из разных категорий.
Как я сам это вижу
Если честно, у меня нет никакой системы. Скорее интуиция — что-то цепляет раньше, чем успеваешь понять, что именно. Слишком гладкая фраза, слишком уместное слово, слишком аккуратно закругленная мысль.
Катина история с «не про X, а про Y» и «почти» — первая попытка на моей памяти вытащить эту интуицию из «ну просто чувствуется» в конкретные признаки. И, кажется, в этом сейчас главная проблема: пока у каждого своя интуиция и она плохо формулируется, а детекторы ошибаются не реже людей — остается только внимательно читать и хорошо знать собственный голос. Чтобы сразу слышать, где текст — твой, а где за тебя договорила модель.
TG | MAX | ЖЖ
Подробнее https://culttech.livejournal.com/583.html?me...