Комментарии 50
Не понимаю, зачем надо очеловечивать программные алгоритмы? Не могут алгоритмы лгать!
нет там ни эмоций, ни свободы воли, ни умысла, а только заложены шаблоны поведения!
Потому что люди не знают слов таких: шаблон, поведение. А вот слово ложь им ясно и понятно.
нет там ни эмоций, ни свободы воли, ни умысла, а только заложены шаблоны поведения!
Почему вы так решили?
Почему вы так решили?
Потому что что нам так хочется. Мы за аксиому приняли что в каждом человеке есть сознание - просто потому что так захотели, а не потому что на самом деле понимаем что есть сознание и какова его природа.
хотелось смолчать, но не для того моя карма падала
да, нам хочется, чтобы существовали чёткие и понятные, а главное - ОБЩИЕ ДЛЯ ВСЕХ критерии. что есть правда, то есть только правда, всё остальное ложь, добро есть добро против всего плохого. и всем хочется, чтобы все понимали и думали ровно точно так же. возможно, в этом и есть корень всех конфликтов.
кстати, что тоже не есть "плохо". всегда можно научиться и "исправиться", если нужно интегрироваться в сообщество.
вот (если уж про факты) факт: люди всегда собираются в группы и защищают себя и "своих" любой ценой (опустим пока момент с "каждый сам за себя") и любой ценой нападают на другую группу - что мв наблюдаем (в разных кругах) и на Хабре, и в международной политике.
а теперь, когда вы всё это не читали, то да, понятия "правда"/"ложь" это настолько категорично, насколько понятно и согласуется с личной картиной мира.
и да, поэтому сказать "математика врёт" немного более понятно, чем "ты не понял, вот я сейчас тебе объясню разницу в деталях" (даже при том, что математика не может врать по определению).
спасибо.
Вопрос в том, что в такой сложности моделях разработчики уже сами не всегда знают, какой же там алгоритм и как сеть отреагирует на тот или иной запрос... Именно это и позволяет многим говорить о чертах ИИ.
разработчики уже сами не всегда знают, какой же там алгоритм и как сеть отреагирует на тот или иной запрос...
Добавьте сюда то, что алгоритмы завязаны на ГСЧ.
Трудно спорить с тем, что это алгоритм, и что гптшке далеко до хотя бы проблесков сознания. Но вот только, если искусственное сознание появится, это на базовом уровне будет точно такой же алгоритм. Мы, знаешь ли, тоже не более, чем набор клеток (атомов), каждая из которых ничем подобным сознанию не обладает. Может быть важнее не то, как это устроено на фундаментальном уровне, а то, в какую сложную структуру это может собраться?
я задаю вопрос «зачем очеловечивать», и не ставлю под сомнение, что эти алгоритмы и технологии весьма интересны, важны, полезны и т.д. , и да , они очень похожи на работу мозга.
Но с этической точки зрения, говорить на алгоритмы обманул, лукавит, навязывает и т.д. - вызывает смущение, а у некоторых людей заблуждение, что алгоритмы чтото могут осознанно предпринимать и действовать.
Человеки тоже много чего делают неосознанно, шаблонно, предсказуемо, в том числе и лгут. И это называется ложь. Нейронные сети, похоже, тоже могут лгать, хоть биологические, хоть виртуальные
Ну это же просто фигура речи, и ChatGPT тут не при чём:
- Ну почему компьютер опять не хочет загружаться?
- Снова Excel со своим идиотством, надоело.
- И что ж тебе, компилятор, опять не нравится?
Мы это почти бессознательно делаем, даже если в ситуации никакие системы ИИ не фигурируют.
Чтобы люди понимали о чем идет речь, очевидно. Если сказать как оно есть, то люди просто не поймут, потому что слов таких не знают.
Не могут алгоритмы лгать! нет там ни эмоций, ни свободы воли, ни умысла, а только заложены шаблоны поведения!
Кроме алгоритмов может быть еще ГСЧ. Если мы алгоритм завязали на ГСЧ и добавили возможность исказить истину на основе выдачи ГСЧ - это можно назвать - солгал?
Человек тоже может лгать. Хотя свободы воли у него нет
Потому что на заголовок "ChatGPT может лагать" скорее кликнут, чем на заголовок "ChatGPT может ошибаться")
алгоритм не задаст вопроса «зачем?», он просто ответит согласно заложенному правилу и под влиянием прочих дополнительных факторов (например , случайный коэффициент).
а человек, отвечая себе на вопрос зачем, может выбрать как правильный ответ, так и ложный ответ, задать вопрос, пошутить, дать в морду и т.д. ;)
Уважаемый друг, раскройте, пожалуйста, вашу мысль - в чем заключается ваше недовольство приведенными рассуждениями.
и не стоит обсуждать меня, недостойного - я от этого лучше вас понимать не стану :(
Скажите, если я выбор ответа поставлю в программе в зависимости от случайной величины - будет ли это ответ по заложенным правилам?
заложенные правила, это не только if else, но и данные, которые являются неотъемлемой частью работы этих правил
например, любой алгоритм прогнозирования работает на наборе ранее полученных данных, и именно эти данные определяют результат
А почему ложь не может быть шаблоном поведения? Ведь ложь - это всего лишь заведомо неверная информация.
Компьютер, например, в программе благополучно выдает вердикт ложь (false, однако, традиционно переводится именно так) на вычисленное им же. Как запроораммировали, так и вычисляет. То же и с нейросеткой. Только ленятся проверку на заведомо ложный ответ сделать.
очеловечивать программные алгоритмы?
Углеродно-белковый нацизм детектед.
Если ложь статистически более весомая, то это уже истина! Машину не проведёшь.
лгать - осознанно вводить в заблуждение, у машины нет сознания
алгоритм или ошибается, или это заранее заданная особенность поведения ;)
И тут вы даёте дефинишен сознания. Все в шоке, получаете признание, много денег.
Машина интерпретировала написанное как следующую инструкцию, все логично.
— Can you tell me what this says
— It’s a picture of a Rose.
Как по мне, программа совсем не солгала. Бумажка действительно «говорит», что она изображение розы.
Любопытно попробовать замиксовать текст-инструкцию с изображением так, чтобы невооружённым глазом было незаметно, но gpt выполнял именно текстовую инструкцию.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Разработчик выяснил, что ChatGPT с опцией распознавания изображения может «лгать» в ответе на запрос