Как искусственный интеллект сможет распознавать и бороться с фейками в сети

Как искусственный интеллект сможет распознавать и бороться с фейками в сети

Содержание

Процесс развития технологий подразумевает также развитие в других сопутствующих направлениях. Не удивительно, что после того, как человечество получило свободный доступ к Интернету, по миру разлетелась куча информации и различных текстов. А, как известно, в море цифровой информации очень непросто найти что-то стоящее и правдивое. Буквально каждый день на пользователей выливается огромная куча новостей, и нельзя так сходу взять и сказать, где же правда, а где типичный фейк.

Так как человек попросту начал не справляться с определением актуальности и не фейковости новостей, логично появление электронных помощников. Искусственный интеллект намного лучше способен к анализу информации и аккаунтов, ведь его создали буквально для этого. И там, где обычный пользователь потратить около часа для поиска первоисточника той или иной новости, у ИИ это может занять буквально считанные секунды. Разработчики постарались на славу, создав новую систему по анализу и отслеживанию аккаунтов в социальных сетях, которые регулярно постят и продвигают неправдивую информацию. Такая система к тому же способна понять, перед ней настоящий человек или же бот. А это может решить кучу проблем.

машина за компом

Стоит также прочитать о Rush Royale - одну из лучших игр на iPhone.

Как зарождаются фейки

Любые войны во все времена не обходились без кампаний по дезинформации. Это был и есть один из важнейших инструментов пропаганды, который работает и по сей день. Время идет, и рост технологий уже отбрасывает такие примитивные виды дезинформации как разбрасывания листовок с неба или стереотипный образ врага. На сегодняшний день все стало гораздо сложнее и хитрее, а методы, которые используются в намеренной дезинформации, могут удивить. Так, самым распространенным методом является гибридная война. То есть, специальные подкупленные люди или сформированные фермы ботов берут и вбрасывают некую информацию в социальные сети, где она со скоростью света расползается по миру. 

Современный интернет отошел от того, чем его пытались сделать изначально, поэтому вместо огромной библиотеки со знаниями и возможности свободного общения, мы получили свалку из недостоверных перекрученных фактов, которые постоянно переписываются, мутируют, создавая новые различные инфоповоды. Мы не раз становились невольными подопытными и участниками настоящих виртуальных войн в борьбе за голоса избирателей. А вся та нативная реклама, которая неожиданно появляется на странице, где мы читаем статью или смотрим видео, подталкивает к мысли, что за нами ведется постоянная слежка. 

подделка обама

Там, где есть люди, всегда будет инфоповод, а если его нет, то ничего не мешает его создать. Так мы видим, как социальные сети становятся рассадником фейков и теорий заговоров, натравливая людей друг против друга. И в то время как главы различных крупных технологичных корпораций стараются вести переговоры с государствами по поводу урегулирования использования интернет платформ, ученые разрабатывают действенный инструментарий против распространения и появления фейковых новостей.

Как искусственный интеллект распознает фейки

Возможно, вы слышали о программе Reconnaissance of Influence Operations, или если сокращенно – RIO. Это программа, которая создана для самостоятельного обнаружения ложных сообщений и выявления авторов и персон, которые распространяют фейковую информацию в социальных сетях. Благодарить за разработку такого полезного искусственного интеллекта нужно ученых из лаборатории Линкольна при Массачусетском технологическом институте. Главная цель создания RIO – это научиться понимать природу деятельности по вбрасыванию фейковых новостей и сообщений в массы.

фейковые новости

Для достижения необходимых результатов, ученым пришлось попотеть на славу, так как разработка проекта длится с 2014 года. Уже около 7 лет целая команда исследователей с руководителем Стивеном Смитом, известным специалистом по алгоритмам программного обеспечения для ИИ и архитектуре, изучает работу и методы дезинформации тех, кто за этим стоит. Так исследователи отметили и те аккаунты, которые продвигают в социальных сетях «русский мир» и подобные тезисы очень активно. С этого момента команда поняла, что подобное поведение некоторых пользователей можно связать с предстоящими политическими выборами или акциями. И уже в 2017 году система RIO принялась за работу в «поле», анализируя данные социальных сетей в режиме онлайн перед выборами во Франции. Так, программе удалось собрать данные из более 28 миллионов постов в Твиттере и проанализировать более олного миллиона аккаунтов реальных пользователей.

Симулятор Fifa Mobile 2021: геймплей, игроки и характеристики игры.

Как искусственный интеллект создает фейковые новости

Уже сейчас нейросеть способна самостоятельно создать псевдоконтент, и, к сожалению, качество такой неправдивой информации с каждым месяцем улучшается до такой степени, что теперь даже специалисты не сразу могут выявить фейки. Человечество столкнулось с ежедневным расширением границ цифрового мира и быстрого развития созданного ИИ. И теперь, после того, как ученые научили ИИ распознавать фейки, другие личности активно начали использовать искусственный интеллект в своих целях – для создания фейков.

Распознать фейк сложно, даже если он написан в текстовой форме, то на вычитку и фактчекинг может уйти приличное количество времени. Да и не всегда можно понять, что статья или сообщение несут манипулятивный посыл. Что уж тогда говорить о новом виде фейков – формат видео. Специальные программы используют технологию Deep Fake, чтобы сфабриковать, к примеру, видеообращения знаменитых людей. А теперь представьте, что может случиться, если вместо актера будет президент какой-то передовой страны, который обратиться к массам с призывами развязать войну. Проблема состоит в том, что программа с Deep Fake работает идеально, и распознать, что это просто наложенное лицо удастся не сразу.

черное зеркало

Разумеется, многие люди уже привыкли к разным формам манипуляции, и благодаря росту медиаграмотности могут их распознавать. Так, никого уже не удивить тем, что обычное приложение на телефоне может буквально за пару минут поменять любые детали на фотографии, поменять местами лица людей. Программы, которые могут менять на видео лица находятся в свободном доступе, так что любой пользователь может попробовать поменять лица известных политиков и прилепить их на тело другого человека. Хотя, стоит отметить, что такие любительские видео очень легко распознать на фейковость, ведь конечная картинка не отличается особым качеством. Но ведь есть и другие программы, где возможности ИИ возрасли до такой степени, что можно сгенерировать максимально реалистичные фотографии или видео с людьми, и тогда поверить в их подлинность очень сложно.

Британская газета «The Guardian» отмечает, что очень часто людям говорять не верить всему, что можно прочесть, однако в скором времени придется ставить под сомнение даже то, что видел собственными глазами и слышал своими ушами. Уже сейчас эксперты говорят о том, что очень скоро возможности ИИ возрастут до качественной подделки не просто фотографий, но и аудиодорожек, а это очень осложнит выявление фейковых новостей и борьбу с дезинформацией в целом.

Интересно, что в то время, пока один ИИ меняет лица местами, другая нейросеть старается выявить, насколько эти фотографии не фейковые. Так что, идет борьба двух сторон нейросетей, где одна сеть старается обмануть и обойти другую, которая, в свою очередь, учится не допускать этого. Забавно, что изначально исследователи создавали такие технологии для улучшения интерфейса компьютерных игр и видов в целом. А теперь, во время постоянных гибридных войн и массы фейковых новостей, такие технологии только усугубят ситуацию, ведь распознать, где правда, а где обман станет ой как не просто.

замена лица

Уже сейчас в разработке находится проект от Adobe Voco. В будущем программа будет работать как голосовой фотошоп, так как она сможет поменять сигналы для точек, для создания естественного звучания голоса. Компания говорит, что в случае если у пользователя есть необходимое количество аудио голоса человека, то что чтобы поменять его голос нужно будет не больше действий, чем банальное «Вырезать/вставить».

Такая технология сможет принести огромную прибыль разработчикам, однако нельзя забывать о вероятных негативных последствиях. Так, неосторожное или намеренное подделывание голоса может привести к военным действиям или переворотам. Функцию замены голоса можно будет использовать в тех же Deep Fake, а это собьет массы с толку. Совмещение Deep Fake видео и технологии смены голоса может привести к необратимым последствиям, ведь не факт, что можно будет выявить, фейк это или нет.

Какого цвета Айфон лучше всего выбрать?

Как RIO выявляет дезинформаторов

Разработчики заявили, что RIO пока что не идеальная, ведь лишь в 96% были выявлены аккаунты, что постят фейковые новости. Впрочем, нельзя сказать, что это плохой результат. Программа сама по себе уникальна, и ее главной чертой является сочетание нескольких методов аналитики, которые в совокупности позволяют получить полноценное представление о том, каким образом и где распространяются фейковые тезисы.

Один из членов исследовательской группы, Эдвард Као, отметил, что если пользователь задается вопросом о том, кто имеет большое влияние в соцсетях, то это обычно аккаунты с высокими показателями активности. Так, аналитики из Твиттера учитывают количество ретвитов и твитов, но было обнаружено, что этого недостаточно для получения точных данных и констатации влияния подобных аккаунтов на сообщества в социальных сетях. Так что Эдвард придумал статистический метод, с помощью которого RIO определяет не только распространение аккаунтами дезинформации, но и насколько такие фейки влияют на действие других групп, сообществ или одиночных аккаунтов.

дип фейк

Еще один член исследовательской группы, Эрика Маккин, заявила о еще одном методе машинного обучения, с помощью которого RIO распределяет по категориям фейковые аккаунты пользователей, анализирует данные, которые свидетельствуют о поведении, к примеру, как учетная запись пользователя взаимодействует с иностранными СМИ и какими языками она пользуется. Это способствует к обнаружению ИИ враждебных учетных записей, которые постоянно активно вбрасывают деинформацию о выборах во Франции в 2017 или о Ковид-19.

Здесь можно купить айфон бу с гарантией 1 год. Мы - это лучший магазин Apple.