Журналисты New York Times уверены, что через пару лет интернет накроет волна фальшивых сообщений.
Алгоритмы текстовой генерации стремительно улучшаются: все труднее отличить текст, написанный человеком, от составленного машиной. Совсем скоро тексты превратятся в оружие массового поражения, инструментов противодействия которому пока нет.
К примеру, алгоритм, синтезирующий правдоподобные тексты в различных жанрах GPT-2 сразу засекретили, настолько опасным казалось попадание его «не в те руки». ИИ может генерировать неотличимые от настоящих и притом уникальные сообщения тысячами.
Впрочем, NYT отмечает, что на большой выборке видны и недостатки ИИ: иногда в статьях нет логики, а некоторые результаты вовсе не имеют смысла.
Тем не менее журналисты убеждены: в ближайшие годы модели текстовой генерации пройдут тот же путь, что проделали состязательные генеративные нейросети в создании правдоподобных фото и видео. И сгенерированные тексты рано или поздно станут неотличимы от написанных человеком.
А значит, нас буквально накроет волна фейковых текстов, новостей и мнений, если не предпринять серьезных усилий, чтобы защитить пока ничего не подозревающих пользователей от нового вида оружия.
ИИ-генераторы правдоподобных текстов и видео открывают дорогу не только к появлению небывалых объемов дезинформации. Оптимисты считают, что с расцветом ИИ появится, например, новый вид искусства – истории, рассказанные конкретному человеку и никогда не повторяющиеся.
Источник: hightech.plus
распечатать статью
