twitter
youtube
instagram
facebook
telegram
apple store
play market
night_theme
en
arm
search
ЧТО ВЫ ИЩЕТЕ ?


ПОПУЛЯРНЫЕ ПОИСКОВЫЕ ЗАПРОСЫ




Любое использование материалов допускается только при наличии гиперссылки на Caliber.az
Caliber.az © 2025. Все права защищены..

Алиев в Казахстане: LIVE

МИР
A+
A-

LawZero займется безопасностью ИИ

05 Июня 2025 01:31

Один из самых известных в мире исследователей искусственного интеллекта (ИИ) запускает новую некоммерческую организацию, которая будет заниматься разработкой безопасных систем ИИ.

Как сообщает Euronews, Йошуа Бенжио, канадско-французский ученый в области ИИ, получивший престижную премию Алана Тьюринга за работу над глубоким обучением и названный одним из «крестных отцов» ИИ, объявил о запуске LawZero в Монреале.

Новая некоммерческая организация собирает команду исследователей ИИ «мирового класса», которая будет стремиться «поставить безопасность выше коммерческих императивов», говорится в заявлении некоммерческой организации.

«Современные передовые модели ИИ развивают опасные способности и поведение, включая обман, самосохранение и несовпадение целей», - говорится в заявлении Бенжио, отмечающего, что организация поможет раскрыть «огромный потенциал» ИИ и одновременно снизить эти риски.

По словам Бенжио, некоммерческая организация родилась из нового «научного направления», которое он выбрал в 2023 году и которое вылилось в «Ученый ИИ», новую неагентную систему ИИ, которую он и его команда разрабатывают, чтобы она служила защитой от «неконтролируемых» агентных систем ИИ.

Этот принцип отличается от других компаний тем, что он хочет отдать предпочтение неагентному ИИ, то есть ему нужны прямые инструкции для каждой задачи, а не самостоятельный поиск ответов, как у большинства систем ИИ.

Неагентные ИИ, созданные LawZero, будут «учиться понимать мир, а не действовать в нем», и их будут обучать давать «правдивые ответы на вопросы, основанные на [внешних] рассуждениях».

«Вместо того чтобы пытаться угодить людям, «Ученый ИИ» можно было бы спроектировать так, чтобы его приоритетом была честность», - написал он.

На стадии проекта организация получила пожертвования от других институтов ИИ, таких как Future of Life Institute, Jaan Tallin и Silicon Valley Community Foundation.

LawZero будет работать на базе MILA - Квебекского института искусственного интеллекта в Монреале, одним из основателей которого был Бенжио.

Caliber.Az
Просмотров: 267

share-lineВам понравилась новость? Поделиться в социальных сетях
print
copy link
Ссылка скопирована
ads
instagram
Подписывайтесь на наш Instagram канал
Подписывайтесь на наш Instagram канал
Cамые читаемые
1

Издание The Economist подсчитало военные потери России

20801
18 Октября 2025 20:02
2

Азербайджанцы разочаровались в электромобилях ЦИФРЫ, ПРИЧИНЫ и ФАКТЫ

11936
18 Октября 2025 13:10
3

Выявление допинга сделало сборную Азербайджана чемпионом мира

9078
18 Октября 2025 18:46
4

В Азербайджане уже месяц выдают удостоверения личности нового образца ФОТО

8632
20 Октября 2025 13:45
5

Тревожная ночь борта AZAL в небе над Санкт-Петербургом Часы напряжения и аплодисменты профессионализму

5148
20 Октября 2025 18:48
6

Завтра в Азербайджане пройдут ливни, пойдет снег

4395
20 Октября 2025 13:21
7

WhatsApp решил ввести лимиты на количество сообщений

4257
19 Октября 2025 08:30
8

Начало недели в Азербайджане будет дождливым

3414
19 Октября 2025 15:37
9

В Узбекистане предложили ввести пожизненное лишение свободы для педофилов

3375
18 Октября 2025 09:04
10

Девичья башня: маяк, архитектурный памятник и символ Баку Экскурс в историю на Caliber.Az

2884
19 Октября 2025 12:47
МИР
Наиболее важные мировые новости
loading