Когда всё больше читателей и критиков стали обвинять Джамира Назира, лауреата престижной премии Содружества за короткий рассказ, в том, что победивший текст написан с помощью ИИ, я поступила так, как поступил бы любой писатель, охваченный профессиональной тревогой: прочитала его.
В рассказе Назира «Змей в роще» и правда есть многие черты, которые мы привыкли связывать с текстами, созданными ИИ. Странные метафоры и чрезмерно сжатый язык сперва кажутся смелым решением, но при повторном чтении — а необычный язык требует перечитать текст — выясняется, что это всего лишь броская обёртка, скрывающая пустоту.
Вопрос о том, кто написал «Змея в роще», стал одним из нескольких скандалов вокруг текстов, созданных ИИ. В центре двух других оказались книжный обозреватель The New York Times и писательница, лауреат Нобелевской премии. Вскоре после того, как Фонд Содружества объявил рассказ Назира победителем в своём регионе, появились многочисленные отклики. В большинстве утверждалось, что тексты ИИ легко распознать, а всякий, кто на них полагается, рано или поздно столкнётся с тем же, что и Назир. Между тем расследование Фонда Содружества заключило, что он не использовал ИИ. И всё же его имя и любые будущие работы, похоже, навсегда останутся связаны с обвинениями.
В целом я согласилась с тем, что рассказ похож на текст, который мог бы написать ИИ. Но заметила и другое: обвинения в адрес Назира чаще звучали от писателей — людей, которым явно важно верить и настаивать на том, что ИИ никогда не сможет делать то же, что и они.
Те, кто хочет получить более объективное мнение, указывают на детекторы ИИ — инструменты, которые анализируют текст и ищут характерные для искусственно созданных материалов закономерности, структуры и другие особенности. Pangram, один из ведущих детекторов в этой отрасли, оценил текст Назира как созданный ИИ на 100%. Мне стало любопытно, как работают такие инструменты и насколько они точны. Я вставила в Pangram статью, написанную мной, и отодвинула в сторону иронию ситуации: я использовала ИИ, чтобы обнаружить ИИ. Будучи уверена в своей невиновности, я нажала кнопку «Проверить».
Пока инструмент обрабатывал текст, в груди зашевелилась тонкая тревога. Я знала, что не использовала ИИ. Чего мне было бояться?
После нескольких неприятных мгновений экран окрасился зелёным: текст подсветился целиком. Фух. Затем я прочитала результат: на 97% написано человеком.
Тревога сменилась возмущением. Я яростно прокручивала статью вниз, разыскивая те самые 3%, словно программа могла почувствовать моё негодование. И вот они: заключительный абзац, выделенный бледно-жёлтым, с пометкой «Небольшая помощь ИИ».
Перечитав этот абзац, я постепенно остыла и почувствовала себя побеждённой и жалкой. Я совершенно точно не прибегала к помощи ИИ, но понимала, почему Pangram отметил текст: я использовала перечисление из трёх пунктов и разделяла части фразы длинными тире — два распространённых признака, которые приписывают ИИ.
Проблема в том, что эта статья мне очень нравилась, и особенно мне нравилось, как появился её финал: он родился из редакторского процесса, свойственного хорошему письму. Изначально я сдала текст с другой концовкой. Редактор предложила добавить несколько предложений, чтобы вернуться к открытым вопросам из вступления. Идея была хорошая, и, когда я стала набрасывать варианты, у меня словно загорелась лампочка. Ей понравился мой вариант, мне он тоже понравился, а главный герой статьи — учёный, руководивший новым исследовательским направлением, — использовал его как цитату, когда поделился текстом. Читатели писали в комментариях и по электронной почте, что концовка им тоже понравилась. По всем знакомым мне меркам я хорошо справилась.
Но теперь абзац казался написанным ИИ. Во мне зародилось сомнение. Хорошо ли он получился на самом деле? Не слишком ли аккуратный, избитый, чересчур роботизированный?
Раньше я бы отмахнулась от самой идеи использовать детектор ИИ: сочла бы её нелепой, даже смешной. Разве что попробовала бы из любопытства, но не стала бы придавать результату большого значения. Однако к тому моменту, когда я увидела жёлтый абзац, я уже была морально истощена. Я балансировала на краю, к которому приближалась весь год, пытаясь примирить существование ИИ с моей работой и с собственной идентичностью пишущего человека. Появление детекторов стало ещё одним поворотом, на котором я потеряла опору, ещё одним фактором, мешавшим понять, что происходит со мной, не говоря уже о других.
Сначала меня тревожила практическая сторона: не заменит ли заказчик меня — Джасну Ходжич, живого человека, который устаёт и отвлекается, — чат-ботом. Теперь этот страх казался почти наивным: напоминанием о более простом времени, когда ИИ угрожал только внешнему миру.
В какой-то момент мне стало ясно: садиться за работу в одиночестве уже не значит работать в одиночестве. Даже если инструменты ИИ выключены, а вкладки закрыты, я всё равно, в каком-то смысле, думаю о машине. Тогда я и начала поднимать белый флаг. ИИ, я сдаюсь: просто вытащи меня отсюда, из места, где ты повсюду — в моём процессе и моём голосе, даже когда тебя рядом нет.
Буду писать — или общаться с ИИ — за еду
Я не всегда знала, что хочу стать писательницей. Привычка писать появилась у меня так, как у человека с нехваткой питательных веществ может появиться тяга к продуктам, которые восполняют дефицит. Это было своего рода самолечением, способом успокоить беспокойный ум, который постоянно мечется между несколькими мыслями. Записывая свои размышления, обычно в дневнике, я заставляла себя замедлиться и сосредоточиться на одной линии мысли — и часто обнаруживала, что они неожиданно пересекаются.
Профессионально я выбрала экологию: всё больше времени проводила на природе и хотела понять окружающий мир. Я дошла до докторской степени, потому что предмет казался мне интересным. Экология — наука беспорядочная: мы пытаемся отделить сигнал от шума, но принимаем и некоторую долю необъяснённых отклонений, которая показалась бы неприемлемой специалистам во многих других областях. Эколог проверяет, есть ли закономерности, и вместе с тем признаёт: неустранимая сложность природы, возможно, всегда будет оставлять вопросы без ответа. Оказалось, что такой образ мышления мне подходит.
Больше всего в аспирантуре мне нравилось размышлять о своих исследованиях — о процессе и открытиях — и собирать их в ясный рассказ для других, обычно в письменной форме. Когда несколько попыток устроиться на постдокторскую позицию не увенчались успехом, я начала редактировать статьи для научного журнала, а затем писать научно-популярные материалы. В конце концов я перестала подавать заявки на академические должности.
Моих материалов никогда не публиковала The New York Times, а все рассказы, которые я отправляла в литературные журналы, отвергали. И всё же к появлению ChatGPT, Claude и других чат-ботов на основе больших языковых моделей я уже вполне прилично зарабатывала писательским трудом. За каждую значимую работу — за каждое предложение, которым я гордилась, — приходилось браться за несколько менее привлекательных заказов, чтобы оплачивать счета. Когда один из таких заказов закончился, я отнеслась к этому спокойно. Портфолио у меня было хорошее. Я была уверена, что найду ещё работу, а может, и постоянную должность.
Когда я начала искать работу, то уже знала, что такое ИИ. Я пользовалась ChatGPT для SEO-исследований и даже редактировала тексты, созданные ИИ, в агентстве социальных сетей. В таких случаях я мирилась с ИИ, но не горела желанием отдавать ему собственное письмо. При этом несколько стабильных заказов, полученных до того, как языковые модели стали массовыми, ограждали меня от осознания того, насколько сильно отрасль уже зависит от ИИ. Он стал не просто инструментом, которым пользовалось всё больше людей, но и силой, превращавшей письмо в товар: для одних это означало новые возможности, для других — риск стать ненужными.
Искать работу писателя — словом, деморализующе. Я подала почти сотню заявок, в том числе на десятки должностей, которым хорошо соответствовала, но получила лишь несколько приглашений на собеседование, и все они ни к чему не привели. Я не считала ИИ главной силой, определяющей рынок труда, но и доказать, что он никак не влияет, не могла. Возможность того, что кто-то автоматизирует мою работу, нависала над каждым отказом, словно профессиональный дементор.
Попытки прояснить ситуацию с помощью фактов не помогали. Каждому аргументу о серьёзной угрозе ИИ для работающих писателей находилось столь же убедительное возражение. На каждого автора, обещавшего отказаться от ИИ, приходился другой, открыто признававшийся, что пользуется им. Исследования показывали, что читателям не нравятся тексты ИИ, и это вселяло надежду, что моя работа по-прежнему нужна. Но слепые оценки разрушили эту надежду: оказывается, читатели часто предпочитали тексты ИИ, когда не знали, кто их написал. Общепринятое мнение гласило, что ИИ годится для нехудожественных текстов. Это не утешало: именно такая работа кормила меня. Зато считалось, что ИИ беспомощен там, где нужны контекст, сознание, личный опыт или физическое существование. Победа рассказа Назира в конкурсе Фонда Содружества поставила и это утверждение под сомнение.
За всеми доводами скрывалось одно предположение, которое трудно опровергнуть: ИИ будет становиться только лучше.
В конце концов я стала циничной, и любые слова в защиту работающих писателей звучали как самоутешение: если повторять что-то достаточно громко и долго, может быть, оно сбудется. Я ловила себя на мечтах о совсем другой жизни — работать официанткой, подавать кофе, общаться с живыми людьми и не гадать, кто или что находится по другую сторону разговора.
Потом я пришла к другому выводу, который уже помогал мне в трудные времена: я драматизирую. Вполне возможно, я превращаю сложные перемены в отрасли в кризис идентичности, хотя речь идёт всего лишь о переменах. Может быть, так и чувствует себя независимый писатель в середине карьеры, переживающий очередной технологический сдвиг, — просто этот кажется более важным, потому что потенциально мешает мне находить работу.
Иными словами, дело не в тебе, ИИ, а во мне?
Шучу. Дело в ИИ.
Пока ИИ лишь нависал надо мной, как дементор, — смутная угроза, которую невозможно было ухватить, — он уже начинал показывать зубы в жизни других авторов.
«Я потеряла прежний заказ из-за ИИ, а теперь на новой работе должна доказывать ИИ, что я не ИИ», — рассказала мне Ребекка Дюрас. Она оплачивала занятия творческим письмом заказами от контент-агентств — работой, особенно уязвимой для автоматизации, как она выразилась. Когда она нашла новое агентство, которое прямо искало авторов-людей, ей показалось, что она снова в игре.
Её опыт и история Назира показывают, чем ИИ отличается от прежних технологий, менявших писательскую отрасль. Например, распространение цифровых медиа одновременно сузило традиционные карьерные пути и расширило перечень требований: завести страницы в социальных сетях, собрать аудиторию на Substack, стать отчасти маркетологом, отчасти инфлюенсером. Эти перемены в основном затронули экономику письма: способы находить аудиторию, распространять, публиковать и монетизировать свои тексты. ИИ устроен иначе: он способен выполнять саму основную задачу — писать. Работодатель может выбрать ИИ, человека или их сочетание. Многие выберут ИИ, потому что он дешевле. Но для других, как для работодателя Дюрас, человеческий текст имеет дополнительную ценность — если не из-за мастерства и навыка, то хотя бы потому, что позволяет избежать возможной негативной реакции.
Но если в некоторых кругах текст человека ценят дороже, чем созданный машиной, подобно тому как где-то мебель ручной работы ценят выше изделий из IKEA, как работодателю проверить, что он получает именно то, за что платит?
Ответ: попросить ИИ оценить текст.
«Моему агентству приходилось прогонять всё через “отчёт об ИИ” для клиентов, — рассказала Дюрас. — А программа стала выдавать ложноположительные результаты. Каждое слово подсвечивалось как написанное ИИ, и мне приходилось переписывать весь текст, чтобы добиться приемлемого показателя».
Дюрас назвала эту работу, далёкую от её призвания, «раздражающей», но не настолько, чтобы она вызвала у неё небольшой кризис, как у меня после проверки Pangram. К тому же переписывание уменьшало её заработок: «Работы вдвое больше, а за переписывание мне не платят, потому что подразумевается, будто я плохой человек, нарушивший договор».
Дюрас столкнулась с ИИ именно там, где эта технология, пожалуй, вытесняет больше всего авторов-людей: в коммерческом производстве больших объёмов контента. Но многие пишут о том, что связано с идентичностью, душой и искусством. Казалось бы, именно такую работу меньше всего хочется отдавать машине. Но, как выяснилось, запретных областей нет.
«Мои магистранты сдают работы, созданные ИИ», — рассказал мне Брайан Лейдлоу, писатель и преподаватель магистерской программы по творческому письму в Денверском университете. Он повторил это с раздражением: «Это магистранты, изучающие творческое письмо!» Я понимала, о чём он. В магистратуру по творческому письму, вероятно, поступают из любви к самому ремеслу.
По словам Лейдлоу, в работах, которые, как он подозревал, были написаны ИИ, грамматика была слишком безупречной, а главным признаком он считал отсутствие юмора. Кроме того, все студенты писали одинаково. «В по-настоящему хорошем письме есть что-то волшебное и непредсказуемое. ИИ противоречит самой непредсказуемости». Затем он словно бы задумался вслух: «Зачем тогда вообще этим заниматься?»
В статье «Главный признак того, что текст написан ИИ», опубликованной в The Atlantic, журналистка Ив Фэрбенкс предложила один возможный ответ: авторы используют ИИ, чтобы не отставать в сферах, где ценятся писатели, способные быстро выдавать качественный контент в больших объёмах. По её словам, даже уверенные в себе профессионалы могут чувствовать давление и прибегать к ИИ, чтобы получить преимущество в журналистике, науке или даже создании контента для YouTube.
Когда я наконец осторожно отпила из кубка ИИ, то увидела, как легко поддаться влиянию машин. Не то чтобы я хотела перестать писать: просто это чертовски трудно, а после стольких отказов профессиональное преимущество звучало очень заманчиво.
Паралич ИИ
Среди нескольких моих заброшенных художественных замыслов есть один рассказ, который я давно считаю упущенной возможностью. Я знаю, что в нём есть потенциал, но даже после долгой редактуры мне так и не удалось выразить свою мысль должным образом. Тогда я вставила текст в ChatGPT: посмотрим, что ИИ сможет сделать с тем, что не получилось у меня.
Для начала я попросила дать общие редакторские замечания. Ответ представил дело так, словно я написала следующий великий американский роман. Мои «тихие образы» и «выразительное повествование» якобы были качествами, которые «удаются очень немногим» и встречаются в The New Yorker.
Я знала, что ChatGPT склонен льстить, но это не помешало мне на миг возомнить себя выдающейся писательницей, которой суждено добиться величия. Может быть, мне всё-таки удалось сказать то, что я хотела? Выбравшись из этой самодовольной ямы, я дала более конкретные указания: темп в середине рассказа провисает, диалоги никуда не годятся, а в целом текст больше похож на набор обрывочных сцен, чем на цельное произведение.
За этим последовали другие поверхностные предложения. Помню, как щурилась, глядя на экран, словно текст расплывался и мне приходилось напрягать зрение. «Чат» — к тому времени мы уже обращались друг к другу по имени — стерилизовал мой текст, по возможности выбирая короткие утвердительные фразы. А о диалогах и говорить нечего: сцена между двумя друзьями напоминала диснеевский фильм на стероидах, где герои выражаются как до невозможности наивные люди.
Я продолжала уточнять запросы. В конце концов Чат предложил структурное решение, заставившее меня остановиться. «А ведь это неплохая идея», — подумала я. Завершив объяснение, он любезно предложил помощь: «Если хотите, я могу помочь внести эти изменения».
Я заколебалась. Несколько долгих прекрасных секунд я всё ещё оставалась хозяйкой положения. Затем с пугающей быстротой решила, что быть главной не так уж важно. Я позволила Чату набросать несколько строк, убеждая себя, что направление задала я. В конце концов, сама я рано или поздно пришла бы к тому же, правда?
Я взяла его текст и провела то, что назвала должной проверкой: скопировала строки в новый документ и использовала их как отправную точку для собственных идей. К тому времени, когда я закончила, от исходного текста Чата ничего не осталось.
Перечитав отрывки, я снова прищурилась — теперь уже глядя на собственный готовый абзац. У меня было ощущение, будто я смотрю на что-то под водой: поверхность мерцала и оставалась целой, но между мной и словами, между мной и выраженными ими идеями появилась тонкая плёнка, которой раньше не было.
Это ощущение — отстранённость от себя и от собственного, «моего», текста — я стала называть «параличом ИИ». Оно возникает, когда слишком легко идёшь в направлении, которое считаешь своим выбором, хотя на самом деле не выбирал его. Я считаю это побочным эффектом того, что Эрик Со, профессор Школы менеджмента MIT Sloan, называет «тяготением ИИ»: инструмент притягивает, потому что экономит умственные силы и обещает преимущество; особенно трудно сопротивляться, если кажется, что им пользуются все вокруг. В физике гравитация удерживает нас на земле и создаёт сопротивление. ИИ убирает это сопротивление — и именно поэтому к нему так легко привыкнуть.
«Это был не творческий кризис — я знаю, что это такое», — сказала мне научная популяризаторка Сэм Эндрюс. В качестве эксперимента она давала ИИ вымышленные описания историй разной сложности, задавая объём и цель текста. Она читала ответ ИИ, редактировала его, перечитывала, раздражалась и начинала с нуля. «Я не могла найти в этом себя», — сказала она.
Будто уверенность Эндрюс в собственных писательских способностях, которую она годами укрепляла, начала рушиться за несколько недель. «Моя уверенность резко упала, и я сразу же оказалась парализована, — сказала она. — Задания были несложными. Но где-то на заднем плане сидело сомнение, из-за которого мне казалось, что нужно проверить, правильный ли у меня план».
Подруга, я тебя понимаю. Мне не требовалось неврологическое исследование, хотя такие исследования существуют, чтобы понять: ИИ что-то делает с моим мышлением, и ничего хорошего в этом нет.
Работа до работы
Сторонники ИИ могут счесть проблемой меня — вторую сторону этого сотрудничества — и сказать, что нужно воспринимать инструмент как помощника, а не замену. Ведь обещание ИИ состоит в том, что он возьмёт на себя скучные задачи и освободит людям время для более глубоких размышлений. При правильном использовании он теоретически может оспаривать наши допущения, улучшать нашу работу и помогать быстрее находить лучшие решения.
Джасмин Сан, известная авторка на Substack, которая пишет об ИИ, призывала читателей честно взглянуть на то, как они им пользуются: «Если быть внимательным и не обманывать себя, можно почувствовать, когда действительно работаешь».
Звучит неплохо. Но применительно к письму это напоминает мне добрый, хотя, возможно, наивный совет родителей бороться с тревожностью, просто «не переживая». Спасибо, мама и папа, до меня бы не дошло. Метод Сан требует именно той способности к самонаблюдению, которую ИИ, как и любой инструмент, рассчитанный на наше стремление к лёгкости и эффективности, склонен ослаблять.
А в письме граница между настоящей работой и тем, что лишь кажется работой, часто слишком тонка, чтобы её заметить. Иногда она вовсе исчезает.
Работая над этой статьёй, я делала многое, чего не оказалось на странице. Я смотрела в окно в гостиной друга, пока присматривала за его домом и писала. Наблюдала, как воробьи-смертники пикируют на кормушку. Ходила по комнате, подбрасывая и ловя ручку. Незаметно для себя съела целый пакет маленькой моркови: в каком-то дальнем уголке ума возникла идея, и я боялась, что малейшее движение её спугнёт. Я писала и переписывала абзацы, удаляла их, возвращала, снова удаляла. Не раз мне хотелось всё бросить.
Всё это было утомительно. И ничто из этого не было утомительным.
Где провести черту
Каждому писателю — каждому человеку — предстоит самому провести границу в песочнице ИИ.
Один известный писатель рассказал мне, что никогда не позволит ИИ редактировать свои предложения или даже проверять текст, но готов просить об общих редакторских замечаниях. Он сказал, что его «интересуют правила и возможности предложений» и что он не поручил бы это никому. По его словам, «главный интерес» для него — не тема, а сам акт письма.
Другие проводят границу раньше. Одна научная журналистка, с которой я говорила, полностью избегает ИИ не из-за вопросов авторства или психологических последствий, а потому, что он не всегда точен и плохо помещает научные результаты в современный контекст. В лучшем случае он тратит её время, в худшем — может представить результаты в неверном свете.
Есть и мой друг — учитель и поэт-любитель. Он сказал, что ему нравится пользоваться ИИ, потому что это единственное, что «достаточно заботится о его поэзии», чтобы обсуждать её с ним.
Где проходит граница Назира? Даже после разговора, который длился больше часа, я не знаю. Во время интервью он решительно отрицал, что использовал ИИ, но его ответы меня не убедили. Ярлык «пользователь ИИ» в среде, где это не приветствуется, например на конкурсе творческого письма, похож на цифровое клеймо. Оно может преследовать Назира всю жизнь, заслужил он его или нет.
Но настоящая причина, по которой я никогда не узнаю ответа, в том, что письмо всегда было личным процессом: человек остаётся наедине со своими мыслями и борется с вопросами, с которыми никому больше не приходится сталкиваться. Теперь к ним относится и вопрос о том, пользоваться ли большой языковой моделью.
Думаю, ответ зависит от того, зачем человек пишет, для кого и с каким давлением сталкивается. Если ИИ хоть что-то мне дал, так это повод задать себе эти вопросы.
К правде нет короткого пути
На первой странице дневника после неудачного дня за письменным столом я вывела слова Томаса Манна: «Писатель — это человек, которому писать труднее, чем другим».
Я надеялась, что эта фраза придаст мне сил, когда я в очередной раз усомнюсь в способности писать. Такое со мной случается часто. Когда я пытаюсь обуздать мысли и вместить их в языковые рамки, обычно ничего не выходит. Но только в процессе письма и этих неудачных попыток я понимаю, насколько туманно на самом деле моё представление о предмете: мои мнения ещё не до конца обдуманы, а эмоции вовсе не исследованы.
Если я хочу выразить что-то важное словами — будь то результаты пятилетних исследований в аспирантуре, значение научного открытия в современном контексте или послание близкому человеку, — мне приходится какое-то время оставаться в этом неудобном состоянии, когда писать тяжело. Нужно перевести дыхание и оглядеться.
За несколько дней до крайнего срока сдачи докторской диссертации я заперлась в комнате, села за стол и открыла ноутбук, решив закончить работу за вечер. К вечеру у меня был готов добротный документ, который можно было сдать, но я не чувствовала, что закончила. Я надела наушники, включила альбом Джона Дигвида и начала заново. Когда я наконец закрыла ноутбук, оказалось, что уже чуть больше трёх часов ночи. Я без перерыва писала и редактировала последние шесть часов. Альбом Дигвида прозвучал по меньшей мере пять раз, и вдруг я поняла, что пропустила ужин.
Никто не прочитает мою диссертацию целиком, а её отдельные части увидят лишь несколько человек. Да и содержание — мои специальные знания — не первое, что я назвала бы своей самой удачной или значимой работой.
Но, думая о письме, я часто вспоминаю ту ночь, когда испытала состояние, противоположное параличу ИИ: чистый поток и сосредоточенность. Это немного похоже на езду в пробке: останавливаешься, трогаешься, ползёшь вперёд, выглядываешь в окно; внимание постоянно отвлекают разные вещи. А потом въезжаешь в туннель. Всё смыкается вокруг, и ты без усилий мчишься к маленькому белому огоньку — даже не пытаясь до него добраться.
ИИ может предложить съезд — быстрый выход из самых неудобных частей письма. Он убирает сопротивление, избавляет от минут, когда я смотрю в окно, растворяюсь в музыке и пишу страницы, которые никто никогда не увидит. Но это не обязательно быстрее приводит меня к правде — или к моей версии правды.
В худшем случае я туда вообще не доберусь.