Comments 13
> усилия учёных, работающих над Siri или термостатами Nest, едва ли приведут к тому, что однажды они захотят уничтожить своих создателей.
ИИ в Сири оперирует «что он имел в виду?» и уже исходя из этого выдает что-то из «той» области.
Термостаты Nest… IoT… Если его холодильник попросит для оптимизации понизить температуру в помещении? Холодильник думает о комфортной температуре для людей? Вы все кейсы проверили при написании логики? А индусы?
А вот ИИ у военых оперирует уже понятиями наибольший урон, обездвижить, форсировать, «поднасрать» тем воякам (людишкам)… он играет в шахматы… и если ему приделать не только мозги, но и «руки»… Где грань наших людишек и не наших?.. А вы все кейсы проверили? А у военных такие же программисты, как и вы! И военным мало симуляций на экране, они захотят вживую увидеть, и у них есть деньги, и они наверняка что-нибудь запустят, и будут запускать, хотим мы этого или нет.
ИИ в Сири оперирует «что он имел в виду?» и уже исходя из этого выдает что-то из «той» области.
Термостаты Nest… IoT… Если его холодильник попросит для оптимизации понизить температуру в помещении? Холодильник думает о комфортной температуре для людей? Вы все кейсы проверили при написании логики? А индусы?
А вот ИИ у военых оперирует уже понятиями наибольший урон, обездвижить, форсировать, «поднасрать» тем воякам (людишкам)… он играет в шахматы… и если ему приделать не только мозги, но и «руки»… Где грань наших людишек и не наших?.. А вы все кейсы проверили? А у военных такие же программисты, как и вы! И военным мало симуляций на экране, они захотят вживую увидеть, и у них есть деньги, и они наверняка что-нибудь запустят, и будут запускать, хотим мы этого или нет.
Илон Маск в прошлом году высказал опасение, что искусственный интеллект сможет нанести ядерный удар:
Он написал о том, что ИИ потенциально может быть опаснее, чем ядерное оружие («Potentially more dangerous than nukes»).
Хмм. ИИ в лидерах среди фобий уже? Впрочем пожалуй что оправданно — т.к. наименее предсказуемо, а неопределенность очень многих пугает…
Ну значим вайпаем «плохих ИИ» (Терминатор, Матрица и т.д. избитые фантастические клише) — «хорошими».
Замечательный пример (книга): Дружба это оптимум
Варнинг (дисклеймер): Там в книге много о вселенной мультяшных пони, я вас предупредил если что :).
Впрочем не стоить сразу плеваться(если у кого они уже в печенках сидят), пони там больше как внешний антураж (сеттинг), а основная часть книги о
Ну значим вайпаем «плохих ИИ» (Терминатор, Матрица и т.д. избитые фантастические клише) — «хорошими».
Замечательный пример (книга): Дружба это оптимум
Варнинг (дисклеймер): Там в книге много о вселенной мультяшных пони, я вас предупредил если что :).
Впрочем не стоить сразу плеваться(если у кого они уже в печенках сидят), пони там больше как внешний антураж (сеттинг), а основная часть книги о
Сюжетный спойлер
О искусственном интеллекте, виртуальной реальности, технологической и информационной сингулярности, а к концу книги уже ближе к философии о смысле и сути человеческой жизни
Авторы премии — это роботы засланные из будущего. :)
А если серьезно, то вот очень хорошая статья на эту тему:
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
А если серьезно, то вот очень хорошая статья на эту тему:
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Илон Макс это тот который объявил что ищет хардкорных программистов для программирования автопилота?
Мне кажется они боятся одного — что они будут не первыми.
Мне кажется они боятся одного — что они будут не первыми.
Не понимаю, какой смысл бояться ИИ, если он все равно будет, ну запретят — появится на 5 лет позже, не так важно.
Страх — естественная реакция на неизвестность, воспитанная тысячами поколений эволюции.
С одной стороны, не все что неизвестное — плохо. С другой стороны, у любого явления есть как положительные, так и отрицательные стороны, при чем разные люди один и тот же аспект какого-то предмета могут видеть совершенно по-разному, поскольку точки зрения (на этот предмет) у них различаются.
В случае всякого рода инноваций, главное — быть аккуратным и не делать поспешных выводов. Атомное оружие ведь тоже изобрели, и оно «может уничтожить человечество» (точно так же, как до этого — огнестрельное), но на данный момент оно служит сдерживающим фактором.
ГМО не отличаются от продуктов селекции — изменение генотипа, которое влечет изменение фенотипа. Главное — проводить качественное тестирование.
К чему я тут растекся мыслею по древу? К тому, что прогресс неизбежен, а наша задача — сделать его максимально комфортным и безопасным для людей.
С одной стороны, не все что неизвестное — плохо. С другой стороны, у любого явления есть как положительные, так и отрицательные стороны, при чем разные люди один и тот же аспект какого-то предмета могут видеть совершенно по-разному, поскольку точки зрения (на этот предмет) у них различаются.
В случае всякого рода инноваций, главное — быть аккуратным и не делать поспешных выводов. Атомное оружие ведь тоже изобрели, и оно «может уничтожить человечество» (точно так же, как до этого — огнестрельное), но на данный момент оно служит сдерживающим фактором.
ГМО не отличаются от продуктов селекции — изменение генотипа, которое влечет изменение фенотипа. Главное — проводить качественное тестирование.
К чему я тут растекся мыслею по древу? К тому, что прогресс неизбежен, а наша задача — сделать его максимально комфортным и безопасным для людей.
Sign up to leave a comment.
Илон Маск, Билл Гейтс и Стивен Хокинг зачислены в «Луддиты года»