Как бороться с дезинформацией, распространяющейся искусственным интеллектом

Предупреждения по поводу угроз, которые может нанести ИИ, раньше касались в основном потери рабочих мест и захвата планеты роботами. Но многие эксперты считают более важной проблемой угрозу распространения дезинформации.

После оценки стало ясно, что контент, который создает ИИ, вскоре будет охватывать 99% информации в Сети. Проблема в том, что эта информация может быть не только недостоверной, но и очень убедительной.

Уже существуют поддельные новостные сайты, которые наполнены "машинным" контентом. По мнению профессора Вашингтонского университета Кейт Старберд, которая изучает ИИ, существует три способа, которыми ИИ усугубит проблему распространения дезинформации.

1. Первая проблема - это правдоподобность информации, которую представляет ИИ. Он может приводить факты, ссылки на исследования и создавать полностью поддельные статьи в научной и других тематиках.

2. Дезинформация может принимать различные формы, от поддельных фотографий и видео до текстовых статей.

3. Дезинформация может распространяться намеренно или неосознанно. Она может быть мотивирована разными вещами - политическими убеждениями, идеологическими целями, мошенническими намерениями или просто для развлечения.

Как бороться с распространением дезинформации

• Происхождение контента

Важно установить источник контента и обеспечить его подлинность. Adobe и Microsoft работают над инструментами для добавления метаданных и подробной информации об изображениях, созданных с помощью ИИ. Google также планирует предоставлять более детальные данные об изображениях в поисковой системе.

• Регулирование

Законодательство может требовать идентификации спонсоров политической рекламы и запрещать злоупотребление фейками, но необходим баланс с защитой свободы слова.

• Алгоритмы

Использование ИИ для обнаружения дезинформации может быть одним из способов борьбы с ней. Однако, вполне вероятно, что из этого получится замкнутый круг.

• Медиаграмотность

Обучение людей фильтровать и проверять информацию является еще одним способом борьбы с фейками. Для этого необходимо финансирование и борьба с теми, кому выгодно, чтобы население оставалось малограмотным.

Большие технологические корпорации, такие как Google и Meta*, которые сами занимаются разработкой ИИ, выразили свое мнение по этому поводу. Они пользуются всеми методами борьбы с дезинформацией и работают над новыми способами борьбы с ней. Они считают, что нужно осторожно подходить к созданию чат-ботов и других программ, основанных на ИИ, и контролировать их развитие.

*Meta - признана экстремистской и запрещена на территории РФ.

0 комментариев