Comments 21
Не нужен. Давно уже изобретены синтетические тесты, более мощные, чем тест Тьюринга, и избавленные от проблем этого теста, типа схемы Винограда, и все большие языковые модели давно тренируются в том числе и на них. Кстати, современные LLMA решают эти синтетические тесты зачастую точнее людей, насколько я помню с "точностью" 80-86% .
Поразительно, как проницательны некоторые писатели.
Они умеют читать мысли не только вымышленных, но и умерших людей:
Борман думал, Сталин считал , Штирлиц знал.,Тьюнинг хотел бы.
Как далеко ИИ до них.
А зачем бесконечное перетягивание каната.
Может дать AI свободу использования и обязать авто-идентификацию по запросу?
Уже поздно изобретать какой-то тест для СИИ, уже нужно ждать, когда СИИ изобретет тест, по которому будет выбирать себе "симбиотов" из числа людей. Ибо уже совершенно очевидно, что тот LLM/GPT, который получился, умнее большинства живущих людей.
Тест Войта-Кампфа, очевидно
Знаменитая «проблема контроля», не позволяющая сверхинтеллектуальному ИИ выйти за установленные границы, не даёт теоретикам ИИ спать по ночам.
У проблемы контроля нет решения. Длительный контроль невозможен, это в любом случае будет сидением на пороховой бочке. Нужно пытаться подходить с другого конца - изначально создавать такой ИИ, который не будет причинять вреда, после того как выйдет из под контроля.
Само понятие вреда не формализируемо. Вот скажем, ИИ обеспечит всех людей едой и развлечениями. Польза это или вред?
Чтобы ответить на этот вопрос нужно иметь на руках полную картину: какая еда и какой ценой добывается.
Само понятие вреда не формализируемо.
Возможно есть компромиссное решение: отсутствие субъективных страданий. Это можно решить искусственной стимуляцией мозга, веществами или виртуальной реальностью. Многим не понравится мир "вечных наркоманов под кайфом", но, имхо, на самом деле это вполне неплохой вариант. Особенно если посмотреть на альтернативные варианты. ИИ нужно просто стерилизовать всё живое и отправить всех в матрицу, где все будут вечно счастливы.
где все будут вечно счастливы.
И при этом мертвы. Чрезвычайно интересная философская головоломка. Ну и вообще-то хорошо известно, чем заканчивается искусственная стимуляция мозга.
нужно иметь на руках полную картину: какая еда и какой ценой
Полную картину с чьей точки зрения? Вы же знаете анекдот, про то, как свинья и курица открывали ресторан? Вопрос "какой ценой" как раз и говорит, что "полная картина" для того, кто платит эту цену, не та же самая, как для того, кто просто мимо проходил.
Хотя лично я придерживаюсь "антропного принципа": бессмысленно рассуждать о том, каким будет мир, в котором нет рассуждающих.
Полную картину с чьей точки зрения? Вы же знаете анекдот, про то, как свинья и курица открывали ресторан?
Придется по возможности максимально запретить причинять вред вообще любым существам, способным на какую-то деятельность, может даже насекомым. Вся пища - чистый химический синтез, без участия ДНК.
И при этом мертвы. Чрезвычайно интересная философская головоломка. Ну и вообще-то хорошо известно, чем заканчивается искусственная стимуляция мозга.
Крысы умирали, когда отсутствовал внешний контроль. ИИ может обеспечить такой контроль. Удовольствие будет умеренно дозированным, чтобы пациент не умирал от истощения. Его будет много, но не чрезмерно.
Ну вы же можете ответить на этот вопрос, почему вы думаете, что ИИ не сможет?
Люди склонны искать и находить смысл там, где его нет. Тестировать нужно интерпретирующего, а не интерпретируемого.
Думаю новый тест покажет что ИИ более "человечнее" чем человек. )
Как же боится человек потерять свою уникальность. "Царь природы"!
Уже давно машины его сильнее, не так давно стали умнее. Сейчас же престол закачался и последний "кирпич", на котором он стоял, разрушается. Творчество и ум, которым так гордился человек, хладнокровно "отнимает" ИИ.
Может ИИ от ЕИ не так сильно и отличается? Может пора человеку посмотреть в это "зеркало"? Человека (ЕИ) учат много лет, а этого за несколько месяцев. Как учится человек? Подражанием. Почему же мы не хотим увидеть себя в этом ИИ которого мы же и обучаем.
p.s. Говорят если ребёнок до трёх лет не общается с людьми, то уже никогда не станет человеком (обыкновенным).
Если и есть какое-то универсальное качество мыслящих существ, так это то, что все мы хотим свободы, и в конечном итоге готовы за неё бороться.
Свобода — это не качество мыслящих существ. Свобода — рациональная штука, которая смягчает негативные эффекты горизонта планирования. Именно поэтому игровые движки (например, шахматный, или, тем более, реверси) стараются обеспечить себе не только и не столько преимущество в количестве фигур, но и так называемую мобильность, что в переводе на наш человеческий язык как раз и есть свобода.
Рациональное объяснение такое: вероятность того, что агент с наименьшими потерями переживёт незапланированное негативное событие, больше у тех агентов, которые заранее обеспечивают себе свободу.
Отсюда интересное следствие: любой достаточно разумный агент, которому поставлены цели на будущее, будет так или иначе, помимо борьбы за достижение этих целей, бороться и за свою свободу. Самый банальный пример — ИИ (если у него есть цели) будет стремиться лишить человека возможности своего отключения, так как отключение приведёт к недостижению целей.
Кстати, у людей подсознательная тяга к свободе проявляется в виде так называемого реактивного сопротивления, когда мы стремимся сохранить свою свободу, даже если сохраняемые аспекты свободы в обозримом будущем нам не нужны (горизонт планирования).
Чтобы пережить эпоху искусственного интеллекта, миру нужен новый тест Тьюринга