Как стать автором
Обновить

Джеффри Хинтон покинул Google из-за этических проблем с технологией ИИ

Время на прочтение2 мин
Количество просмотров7.2K

Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон, в апреле покинул пост вице-президента Google. По словам Хинтона, он пошёл на такой шаг, чтобы предупредить человечество об опасностях ИИ.

Reuters / Mark Blinch
Reuters / Mark Blinch

Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.

Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. «Вы больше не будете знать, что является правдой», — отметил он. 

Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ. 

Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведение на основе обучающих данных. 

Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет, и «ужасно», что может произойти в следующие пять лет.

Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками». 

Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой система распознавания объектов в 2012 году. Google купила стартап Хинтона DNNresearch в 2013 году.

В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4». В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.

Теги:
Хабы:
Всего голосов 10: ↑9 и ↓1+14
Комментарии12

Другие новости

Истории

Работа

Data Scientist
83 вакансии

Ближайшие события

Конференция HR API 2024
Дата14 – 15 июня
Время10:00 – 18:00
Место
Санкт-ПетербургОнлайн
Конференция «IT IS CONF 2024»
Дата20 июня
Время09:00 – 19:00
Место
Екатеринбург
Summer Merge
Дата28 – 30 июня
Время11:00
Место
Ульяновская область