ChatGPT, текст, информация: критический анализ

Труды по интеллектуальной собственности. 2024. Т. 50. № 3. С. 118–128.

Комашко М. Н.

В работе рассматриваются вопросы теории и практики, связанные с таким типом искусственного интеллекта, как большие языковые модели, в частности, ChatGPT. Основное внимание уделено сферам человеческой деятельности, в которых обмен информацией, изложенной в виде текста, имеет наибольшее значение: науке, образованию и журналистике (медиасфере).

Описывается опыт взаимодействия пользователей с чат-ботами. Достаточно подробно рассматривается принцип работы больших языковых моделей. Это позволяет подвести читателя к выводу о том, что чат-боты не могут и не должны мочь осуществлять мыслительный процесс вместо человека и создавать осмысленные, правдивые тексты, которые бы не нуждались в тщательной проверке и редактировании.

Также автор обосновывает вывод о том, что искусственный интеллект (по крайней мере, большие языковые модели) не имитирует деятельность человека, а осуществляет деятельность принципиально иного рода.

В заключительной части работы автор развенчивает миф о том, что чат-боты могут нанести непоправимый ущерб человеческой цивилизации путем внедрения дезинформации.

Ключевые слова: журналистика, искусственный интеллект, media, journalism, средства массовой информации, нейросеть, disinformation, чат-бот, дезинформация, LLM, chatbot, большие языковые модели, large language models, artificial intelligence, neural network, LLM, data hallucination, data poisoning, галлюцинирование данными, отравление данными