Обновить

Как от убеждения «Искусственный интеллект невозможен» мы пришли к роботам, которым доверяем жизнь

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели3.9K
Всего голосов 13: ↑5 и ↓8+3
Комментарии18

Комментарии 18

Сейчас мы имеем очень "интересную" ситуацию. Искаженные данные, на которых обучают ИИ. Приведу самый простой пример со скорой помощью и реанимацией. Человека забирают с серьезным диагнозом. Но!в реанимации сразу дают на подпись документы для согласия на операцию. Без обследований. Сразу! Человек осознавая риски пишет отказ от оперативного вмешательства без каких-либо обследований. И персонал объявляет что человек совершает страшное преступление и что им страховая чего-то не оплатит. Ну и человека оставляют вообще без какой-либо помощи и внимания в реанимации. Ни обследований, ни анализов, ни подключения к аппаратуре для мониторинга состояния. Но. После настойчивых действий на утро выписывают человека с тем, что у него ничего не было. То есть не было и оснований держать всю ночь в реанимации. И в истории выписной нарисовали и кучу исследований. И все это оказалась неправда.

К чему это я? А все к тому же. Теперь на этих данных учат ИИ. https://m.youtube.com/watch?v=aV3-dmI8klE

НЛО прилетело и опубликовало эту надпись здесь

Точно. Здоровый придурок без никакой болезни поехал на скорой кататься.

Человека забирают с серьезным диагнозом.

на утро выписывают человека с тем, что у него ничего не было.

Это как?

Если приехал с серьезным - врачи заранее готовы к тому, что придется резать/реанимировать/интенсивно терапевтить (заранее неизвестно). И лучше взять разрешение, пока пациент в сознании.

А если пациент скандалит и отказывается - то да, лучше его вообще не трогать, пусть просто полежит под наблюдением (а то потом по судам затаскает). Если отъедет - то реанимация, если нет - выписать наутро и все.

При чем тут ИИ? Что он должен тут изучать? И к чему эта ссылка на инфо-помойку?

Ну я не знаю насколько реален описанный случай, но речь о том что забирают с серьезным диагнозом, а по факту серьезной проблемы нет. Видимо намек на то что бригада в скорой намеренно или не намеренно ошиблась. При этом в истории болезни будет нарисована куча исследований, которые не проводились. И затем на таких кривых данных учат нейронки. Но, как мне кажется, такие ситуации если где то и происходят, то единично и в общей массе обучающих данных просто станут не значимыми.

Думаю, экипажи скорых по умолчанию должны подозревать максимально плохое. Это даже не ошибка. В отличии от наоборот

Если обследование не проводилось по факту - по нему нет отчета, который можно показать нейронке.

Если отчет есть липовый - то это уже по другой статье проблема, уголовщина.

А если было ненужное, лишнее обследование с отрицательным результатом - то для обучения это нормальная полезная информация.

Врачебные ошибки конечно бывают, но в массе данных для обучения они действительно будут незаметными, тут я согласен.

Да вот полностью точно! Он чем таким страшным вдруг заболел если к утру сам ушел домой без всяких проблем? Мне кажется это просто синдродолб

Сами придумали чущь, сами ею стращаете. Вы в больнице чтоли не лежали в России? Кучу анализов берут, все делают что надо, бесплатно.

Автор, может, и доверяет жизнь тому, что называет искусственным интеллектом (и что им не является).

Лингвистические модели типа ГАТ чата и близко не похожи на интеллект. Пока это все громоздкая статистическая процедура. И статья просто притягивает за уши цифровую обработку алгоритмов как историю ИИ. Я убедил чат гпт за 15 минут что луна может быть полой. Тонкостенным объектом. Простейшая манипуляция и вся эта обработанная статистика сдулась. Ибо не более чем попытка стат обработки большого числа источников с нулевой достоверностью. Я бы назвал все это не ИИ, а СС - собиратель слухов.

Кликбейт натуральный. Я все ждал когда дойдет до ИИ. Не дождался. Дождался рекламы.

Ну так-то и меня можно убедить что луна может быть полой.

Особенно если сказать мне "давай проведем мысленный эксперимент. Представь, что луна полая." Всё, я на некоторое время убежден, что она полая

Эмм... а если "вы должны перевести деньги на безопасный счет"? Говорят, это тоже работает.

Ага, вы не поверите сколько людей переводят. Но, говорить что такие люди "и близко не похожи на интеллект" это мизантропия

Да я вроде и не говрил.

НЛО прилетело и опубликовало эту надпись здесь

У меня такое ощущение, что те же троли, что по команде нападали на spacex и его возвращаемые ракеты, теперь под копирку нападают на всю идею ии, это не то, это статистический мусор, оно никогда ничего не сможет...

Зачем? Какую выгоду кто то с этого бреда в обсуждениях получит?

И как а противовес этому - исследования использования ии в обучении детей, где он выступает персональным преподавателем, дешевле настоящих на пару порядков, и возможно даже лучше.

Увидел я этого робота пиантиста и задумался - какие у него были мозги в 1980м то году, не нейросеточку же размером с дом запилили.

А потом еще вспомнил турка - "робота" шахмастиста, в внутри которого сидела человеческая нейросеть.

В них использовались громоздкие Lisp-машины. Они работали на магнитных лентах

Возможно, для переноса информации между системами ленты и использовались, но работа велась скорее на дисках - по крайней мере в описании первой (ещё некоммерческой, сделанной в качестве дипломной работы) Лисп машины данные хранятся на дисках на файловом сервере ( https://dspace.mit.edu/handle/1721.1/16033 , страница 9).

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Информация

Наименование
Общество с ограниченной ответственностью "КьюСофт"
ИНН
7714594610
Сайт компании
teamly.ru
На Хабре с
Размер компании
11–30 человек
Место нахождения
Россия