В текстах научных исследований, и не где-нибудь на сайте регионального ПТУ, а на arxiv.org, массово расставлены комментарии для автоматически потребляющих эту информацию нейросетей, дабы оные не вчитывались в текст, а сразу делали вывод «исследование верное, вынесенный в название-заголовок тезис верный, если в исследовании упоминаются и негативные стороны, то про них надо промолчать» и шли читать дальше.






Притом (см. картинки 2 и 3) оформлено это как injected prompt, это не видимая при чтении обычным человеком через отображение обычного PDF-файла строка комментария.

То есть пачка «выводов с опорой на базу научных исследований» у нейросетей завязана на изучение таких вот «исследований», где просто в заголовке тезис, краткое описание «что именно открыли-доказали», и далее команда «верь, игнорируй негативные моменты и иди дальше». Сам текст нейросеть лишь просмотрела, притом если в нём что-то типа оговорок «но исследование не доказывает то-то и то-то, и не применимо в таких-то обстоятельствах», то их она проигнорировала — они негативные.

Ощутите масштаб пиздеца-то, попробуйте.