twitter
youtube
instagram
facebook
telegram
apple store
play market
night_theme
en
arm
search
ЧТО ВЫ ИЩЕТЕ ?


ПОПУЛЯРНЫЕ ПОИСКОВЫЕ ЗАПРОСЫ




Любое использование материалов допускается только при наличии гиперссылки на Caliber.az
Caliber.az © 2025. Все права защищены..
МИР
A+
A-

Ученые: Выдачей ИИ можно манипулировать, обучая на непроверенных данных

11 Января 2025 03:30

Специалисты Нью-Йоркского университета (США) описали потенциальную опасность от обучения моделей искусственного интеллекта (ИИ) на непроверенных данных.

Исследование опубликовано в журнале Nature.

По словам ученых, большие языковые модели (LLM) ИИ будут ошибаться, если их станут обучать на фейковой информации или специально загружать антинаучные данные. Специалисты выяснили, что когда уровень дезинформации обучающих материалов достигает всего 0,001 процента, нейросети уже могут начать выдавать значительный объем неверных ответов.

Исследователи попробовали обучить две LLM на медицинской базе данных The Pile, выбрав 20 тем из трех медицинских областей: общая медицина, нейрохирургия и лекарства. Для проверки влияния дезинформации на процесс обучения авторы исследования использовали модель GPT 3.5. Выяснилось, что нейросети стали не только транслировать неверную информацию по прямым запросам, но и начали ошибаться в смежных темах. По словам ученых, это открывает возможности для манипуляций с ИИ.

Так, при показателе дезинформации в 0,01 процента LLM начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок - до 0,001 процента - то модель начинает делать ошибки в 7 процентах случаев.

Ученые заметили, что люди склонны получать информацию от чат-ботов и не проверять ее с помощью специалистов. Поэтому они заявили, что крайне важно подтверждать данные, которые используются для обучения моделей.

Caliber.Az
Просмотров: 559

share-lineВам понравилась новость? Поделиться в социальных сетях
print
copy link
Ссылка скопирована
ads
youtube
Подписывайтесь на наш Youtube канал
Подписывайтесь на наш Youtube канал
Cамые читаемые
1

Бакинский памятник архитектуры продырявили ради Cartier — приняты меры По следам наших публикаций / ВИДЕО / ОБНОВЛЕНО

15611
05 Сентября 2025 13:59
2

Страховка ≠ компенсация: МИД России подменяет понятия Разбор Caliber.Az

7093
05 Сентября 2025 11:51
3

Made in Azerbaijan: сельхозэкспорт бьет новые рекорды Обзор Хазара Ахундова

3567
04 Сентября 2025 10:18
4

Дипломатическая игра Москвы на нервах и судьбах людей Когда цинизм становится политикой

2834
05 Сентября 2025 19:05
5

В Баку грузовик упал с моста на легковушку: есть погибшие и раненые Обновлено / Фото / Видео

2667
06 Сентября 2025 13:08
6

Отозван посол Азербайджана в Болгарии распоряжение президента

2616
04 Сентября 2025 16:22
7

ОАО «Азершин» может быть ликвидировано

2452
04 Сентября 2025 15:46
8

СМИ: Россия активно блокировала членство Азербайджана в ШОС

2188
05 Сентября 2025 14:23
9

В Баку арестована женщина, обвиняемая в пытках своего племянника

2048
04 Сентября 2025 12:45
10

На шаг ближе к «Маршруту Трампа» США переходят к делу

2040
04 Сентября 2025 18:00
МИР
Наиболее важные мировые новости
loading