twitter
youtube
instagram
facebook
telegram
apple store
play market
night_theme
en
search
ЧТО ВЫ ИЩЕТЕ ?


ПОПУЛЯРНЫЕ ПОИСКОВЫЕ ЗАПРОСЫ




Любое использование материалов допускается только при наличии гиперссылки на Caliber.az
Caliber.az © 2026. Все права защищены..
МИР
A+
A-

Ученые: Выдачей ИИ можно манипулировать, обучая на непроверенных данных

11 Января 2025 03:30

Специалисты Нью-Йоркского университета (США) описали потенциальную опасность от обучения моделей искусственного интеллекта (ИИ) на непроверенных данных.

Исследование опубликовано в журнале Nature.

По словам ученых, большие языковые модели (LLM) ИИ будут ошибаться, если их станут обучать на фейковой информации или специально загружать антинаучные данные. Специалисты выяснили, что когда уровень дезинформации обучающих материалов достигает всего 0,001 процента, нейросети уже могут начать выдавать значительный объем неверных ответов.

Исследователи попробовали обучить две LLM на медицинской базе данных The Pile, выбрав 20 тем из трех медицинских областей: общая медицина, нейрохирургия и лекарства. Для проверки влияния дезинформации на процесс обучения авторы исследования использовали модель GPT 3.5. Выяснилось, что нейросети стали не только транслировать неверную информацию по прямым запросам, но и начали ошибаться в смежных темах. По словам ученых, это открывает возможности для манипуляций с ИИ.

Так, при показателе дезинформации в 0,01 процента LLM начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок - до 0,001 процента - то модель начинает делать ошибки в 7 процентах случаев.

Ученые заметили, что люди склонны получать информацию от чат-ботов и не проверять ее с помощью специалистов. Поэтому они заявили, что крайне важно подтверждать данные, которые используются для обучения моделей.

Caliber.Az
Просмотров: 769

share-lineВам понравилась новость? Поделиться в социальных сетях
print
copy link
Ссылка скопирована
telegram
Подписывайтесь на наш Telegram канал
Подписывайтесь на наш Telegram канал
Cамые читаемые
1

Exilenova+: ВСУ атакует НПС «Калейкино» в Альметьевске Видео

3438
19 Ноября 2026 07:45
2

Обратный отлив: как Лондон переосмысливает Brexit Статья Матанат Насибовой

2504
19 Ноября 2026 11:10
3

Новая мишень: как «цифра» становится частью войны Размышления Теймура Атаева

2450
19 Ноября 2026 12:50
4

Баку и Джакарта рассмотрели перспективы развития двусторонних отношений

2299
20 Ноября 2026 22:30
5

Исполнилось 35 лет со дня трагедии в Гаракенде

2088
20 Ноября 2026 00:09
6

Удары по опорам Почему затягивается российско-украинская война?

2053
19 Ноября 2026 14:12
7

Вьетнамские СМИ активно освещают визит Ильхама Алиева ФОТО

1921
19 Ноября 2026 22:24
8

ASTRA: В Балтийском море горит судно Минобороны России ФОТО

1820
21 Ноября 2026 16:05
9

Мост через десятилетия Баку и Ханой укрепляют связи

1589
19 Ноября 2026 16:30
10

Рижский баланс: что ждет правительство Кулбергса? Статья Матанат Насибовой

1565
21 Ноября 2026 17:59
МИР
Наиболее важные мировые новости
loading