» » Искусственный интеллект может похоронить нас под лавиной дезинформации

Искусственный интеллект может похоронить нас под лавиной дезинформации

New York Times испытала на людях новейшие алгоритмы текстовой генерации. Они стремительно улучшаются: все труднее отличить текст, написанный человеком, от составленного машиной. Максимум через пару лет это будет совершенное оружие массового поражения, инструментов противодействия которому пока нет, передает Hightech+. 

За последнее время появилось два впечатляющих алгоритма, синтезирующих правдоподобные тексты в различных жанрах. Один из них — GPT-2 — создали в OpenAI и сразу засекретили, настолько опасным оказалось попадание его «не в те руки». Второй вариант представили исследователи из Института Пола Аллена в Сиэтле. И здесь, напротив, разработчики намерены раскрыть в ближайшее время все детали. New York Times разобралась в прогрессе технологии и ее опасностях. Теперь журналисты уверены, что через пару лет интернет накроет волна фальшивых сообщений, в сравнении с которой сегодняшние усилия любой «фабрики троллей» с людьми покажутся детскими шалостями.

 NYT продолжает исследование  в формате поста в соцсети, который ИИ разворачивает из различных вводных. Журналисты выбрали, кого надо осудить в заметке — республиканцев или демократов — а также за что: засилье иммигрантов либо рост стоимости здравоохранения. Результат впечатляет: например, в одном из сообщений даже есть «ссылка» на поддельный твит президента Дональда Трампа.

Впрочем, NYT отмечает, что на большой выборке видны и недостатки ИИ: иногда в статьях нет логики, а некоторые результаты вовсе не имеют смысла.

Тем не менее, журналисты убеждены: в ближайшие годы модели текстовой генерации пройдут тот же путь, что проделали состязательные генеративные нейросети в создании правдоподобных фото и видео. И сгенерированные тексты рано или поздно станут неотличимы от написанных человеком.

А значит, нас буквально накроет волна фейковых текстов, новостей и мнений, если не предпринять серьезных усилий, чтобы защитить пока ничего не подозревающих пользователей от нового вида оружия. В OpenAI посчитали необходимым закрыть свой алгоритм. В Институте Аллена, напротив, убеждены, что если алгоритм не раскрыть, подобрать ключи к распознаванию фальшивых ИИ-новостей будет невозможно.

Этого же мнения придерживается и глава исследующей фейки ИИ-команды Facebook Манохар Палури: «Если у вас на руках генеративная модель, значит, есть и способы противостоять ей». 

Уважаемые пользователи! Предлагаем обсудить данную публикацию в комментариях ниже.
ДРУГИЕ НОВОСТИ

Комментарии


САМОЕ ЧИТАЕМОЕ / КОММЕНТИРУЕМОЕ
  1. Какая программа лучше для автоматизации сделок на бирже
  2. Какая программа лучше для автоматизации сделок на бирже
  3. Какая программа лучше для автоматизации сделок на бирже
  4. Госдума приняла закон о приостановке ДРСМД
  5. В ДРК свыше 300 тысяч человек стали беженцами из-за военных действий
  6. В Испании в ходе антитеррористической операции задержали десять человек
  7. Intel пригласила на работу создателя процессоров PowerPC
  8. Принц Гарри и Меган Маркл поделились новым снимком сына
  9. На острове Сеймур обнаружены останки древнего монстра, похожего на Несси из Лох-Несса
  10. Когда выйдет сериал Преступление 2019, кто в ролях и сюжет


Гегард Мусаси — Рафаэль Ловато 23.06.2019 резудьтат и видео боя
Гегард Мусаси — Рафаэль Ловато 23.06.2019 резудьтат и видео боя
В ночь с 22 на 23 июня в столице Великобритании состоится турнир Bellator. Самым ожидаемым противостоянием вечера станет бой Читать далее
Гран-При Франции 23.06.2019: прямая онлайн трансляция гонки. Где смотреть, прогноз и ставки на Формулу 1
Гран-При Франции 23.06.2019: прямая онлайн трансляция гонки. Где смотреть, прогноз и ставки на Формулу 1
В воскресенье, 23 июня, на трассе Поль-Рикар состоится восьмой этап Формулы-1 сезона 2019. Речь идет о Гран-При Франции. Начало Читать далее
Все новости
Галерея