Источник.
Пару недель назад австралийский научный журнал Cosmos стал гораздо известнее, чем раньше. Но не потому, что он опубликовал какую-то прорывную статью. Все дело из-за применения генеративного искусственного интеллекта (ИИ) для создания научных статей. Эксперимент, на который пошел журнал, вызвал критику и негодование не только со стороны научного сообщества и читателей, но и бывших авторов издания, редакторов и двух учредителей. В чем там дело?
Контекст эксперимента с ИИ
Эксперимент стартовал после получения журналом гранта от Meta News Fund в 2023 году. Распределением и контролем средств занимался Фонд Уокли (The Walkley Foundation). Проект предполагал создание «кастомизированного ИИ-сервиса», который бы генерировал научные статьи на основе архива из 15 000 материалов, накопленных журналом за годы его существования. Средства выделялись на исследование возможностей и рисков ИИ-инструментов в журналистике.
Специально обученный ИИ-сервис использовали для создания шести статей на сложные научные темы. После чего, в июле 2024 года, они были опубликованы на сайте Cosmos с примечанием о том, что данный контент был сгенерирован ИИ. Президент Ассоциации научных журналистов Австралии Джексон Райан отметил, что по крайней мере одна из напечатанных статей содержит неточности. «Тексты были созданы с помощью GPT-4 от OpenAI, а затем проверены с использованием архива статей Cosmos», — подчеркнул он.
За полгода до этих событий, в феврале 2024 года, из Cosmos без предварительного предупреждения были уволены пять из восьми внештатных авторов. Им пришли электронные письма с уведомлением о том, что в их услугах больше не нуждаются и новые статьи больше не будут приниматься. Как заявили представители журнала, решение было продиктовано финансовыми проблемами. Стало ли это истинной причиной увольнений сотрудников — неизвестно. Однако участие в проекте с использованием ИИ кидает тень на политику журнала в отношении рабочей этики, прозрачности и доверия к научной журналистике.
Ситуация усугубилась, когда стало известно, что никто кроме руководства компании не знал о начале эксперимента. Иэн Коннеллан, бывший редактор Cosmos, заявил, что никто из редакционного персонала также не был в курсе. Даже не смотря на то, что именно они отвечали за редакционные решения до передачи журнала под управление CSIRO. Учредители Cosmos, Кайли Аерн и Уилсон да Силва, также выразили своё возмущение и разочарование принятым решением. По их мнению использование ИИ-сервиса вместо журналистов — точно не путь, который они выбирали.
Из-за проекта у Cosmos и руководящей компании CSIRO возникли этические и юридические проблемы. Временный редактор Cosmos Гэвин Стоун перенаправил все претензии в CSIRO Publishing. Только после этого представитель компании заверил, что ИИ-сервис не был обучен на статьях авторов Cosmos. Было ли это так на самом деле — еще выясняют.
Доверие к науке и журналистике
Бывшие авторы журнала считают, что ИИ-сервис обесценивает их работы и ставит под угрозу важность профессии журналиста в целом. Фонд Уокли, спонсировавший проект, также подвергся критике за предоставление гранта. Многие журналисты считают, что организация, созданная для поддержки их профессии в Австралии, не должна финансировать подобные проекты.
«Использование ИИ для представления фактов, подкрепленных научными исследованиями, вызывает серьезные опасения и может привести к катастрофическим последствиям. В условиях, когда доверие к науке и средствам массовой информации стремительно падает (особенно заметно это в медиа), проведение экспериментов с ИИ без должной прозрачности — это, в лучшем случае, проявление невежества, а в худшем — опасный шаг», — предупреждает Джексон Райан, президент Ассоциации научных журналистов Австралии.
Он также привел пример американского технологического сайта CNET, который в конце 2022 года опубликовал десятки статей, созданных с помощью кастомизированного ИИ.
«Подобное уже случалось ранее. В конце 2022 года уважаемый американский технологический сайт CNET, где я работал научным редактором до августа 2023 года, опубликовал десятки статей, созданных с помощью кастомизированного искусственного интеллекта. Этот «робот-писатель» выпустил 77 публикаций, и после расследования, проведенного конкурентами, выяснилось, что более половины из них содержали неточности», — рассказал Райан. Этот случай был назван «журналистской катастрофой», и аналогичные опасения были высказаны в отношении Cosmos.
Сегодня экспериментальный проект Cosmos приостановлен для детального расследования и решения возникших проблем. Но компания CSIRO по-прежнему является «приверженцем этичного и ответственного использования технологий ИИ».
Перспективы использования ИИ в медиа
Несмотря на все риски, использование ИИ в журналистике имеет потенциал, особенно для небольших изданий, которые сталкиваются с трудностями в создании контента. ИИ может помочь, например, автоматизировать рутинные задачи. Однако для успешной полной интеграции в медиаиндустрию необходимо обеспечить открытость информации и учитывать мнение аудитории.
Цель науки — уменьшить неопределенность, но она не способна полностью ее устранить. Эффективная научная журналистика помогает аудитории осознать эту неопределенность и, как показывают исследования, укрепляет доверие к научному процессу. Однако генеративный ИИ остается инструментом, создающим предсказуемый текст, который может подорвать этот процесс, порождая контент, который звучит убедительно, но часто лишен смысла.
Это не значит, что генеративный ИИ должен быть запрещен. При надлежащем контроле ИИ способен стать важным инструментом для небольших издательств, таких как Cosmos, помогая им поддерживать постоянный поток контента не теряя доверии аудитории.
