twitter
youtube
instagram
facebook
telegram
apple store
play market
night_theme
en
arm
search
ЧТО ВЫ ИЩЕТЕ ?


ПОПУЛЯРНЫЕ ПОИСКОВЫЕ ЗАПРОСЫ




Любое использование материалов допускается только при наличии гиперссылки на Caliber.az
Caliber.az © 2025. Все права защищены..
МИР
A+
A-

Ученые: Выдачей ИИ можно манипулировать, обучая на непроверенных данных

11 Января 2025 03:30

Специалисты Нью-Йоркского университета (США) описали потенциальную опасность от обучения моделей искусственного интеллекта (ИИ) на непроверенных данных.

Исследование опубликовано в журнале Nature.

По словам ученых, большие языковые модели (LLM) ИИ будут ошибаться, если их станут обучать на фейковой информации или специально загружать антинаучные данные. Специалисты выяснили, что когда уровень дезинформации обучающих материалов достигает всего 0,001 процента, нейросети уже могут начать выдавать значительный объем неверных ответов.

Исследователи попробовали обучить две LLM на медицинской базе данных The Pile, выбрав 20 тем из трех медицинских областей: общая медицина, нейрохирургия и лекарства. Для проверки влияния дезинформации на процесс обучения авторы исследования использовали модель GPT 3.5. Выяснилось, что нейросети стали не только транслировать неверную информацию по прямым запросам, но и начали ошибаться в смежных темах. По словам ученых, это открывает возможности для манипуляций с ИИ.

Так, при показателе дезинформации в 0,01 процента LLM начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок - до 0,001 процента - то модель начинает делать ошибки в 7 процентах случаев.

Ученые заметили, что люди склонны получать информацию от чат-ботов и не проверять ее с помощью специалистов. Поэтому они заявили, что крайне важно подтверждать данные, которые используются для обучения моделей.

Caliber.Az
Просмотров: 565

share-lineВам понравилась новость? Поделиться в социальных сетях
print
copy link
Ссылка скопирована
ads
Cамые читаемые
1

Завтра температура воздуха в Азербайджане опустится до двух градусов

7848
15 Сентября 2025 13:19
2

Так отремонтировали бакинский мост – памятник архитектуры ФОТО

7539
13 Сентября 2025 10:52
3

Автокороль шоу-бизнеса стал фигурантом уголовного дела Подробности / фото

5901
13 Сентября 2025 13:14
4

Тариф «Аэропорт» без выбора Цены выросли вместе с недовольством / Подробности

5542
13 Сентября 2025 12:30
5

С 15 сентября 20 столичных автобусов меняют схему движения Что нужно знать горожанам?

5211
13 Сентября 2025 18:42
6

В Ханкенди вооруженный Аванесян готовил теракт Пустив в ход автомат и гранаты / Подробности

4877
14 Сентября 2025 17:11
7

Завтра в Баку пройдут ливни, ожидается сильный ветер

3849
13 Сентября 2025 13:05
8

Семь бед — один ответ: власти РФ решают проблемы репрессиями Аналитика Сергея Богдана

3729
14 Сентября 2025 16:01
9

Наука против мифов: Кавказская Албания и армянская псевдоистория Архимандрит Алексий на Caliber.Az

3260
13 Сентября 2025 16:15
10

Зеленский заявил о готовности к переговорам об окончании войны

3063
13 Сентября 2025 19:19
МИР
Наиболее важные мировые новости
loading