>Точнее проблема даже не в том, чтобы объяснить конкретно про свисток, а в том, чтобы провести грань где оружие, а где нет
Нейросети немного не так работают, у них нет понятий и определений. Если "свисток" в обучающей выборке используется статистически как оружие, то и в генерации сети статистически он будет использоваться как оружие (если аппроксимация сетью достаточно точна). А если не будет - то не будет. Какое определение у свистка и оружия сети не важно, это важно для человека, который понимает термины и обладает моделью мира.
Проблема решена уже десятилетия назад - любое потенциально опасное действие требует подтверждение от человека со стороны непосредственно системы, которая это действие будет выполнять (т.е. получит команду от сети).
Ну, ожидаемо. Кто-то действительно думал, что это все делается для того, чтобы кому-то там повестки рассылать или какие-то там ограничения накладывать?
Пройдут годы, отчитаются об освоении бюджетов, расскажут в новостях о новой "аналогов.нет" системе призыва, а военкомы так и будут вести учет при помощи устройства "бумажная папка" с надежным хранением и репликацией на серверах типа "деревянный шкаф".
Тут провал, т.к. сетка не может выполнять алгоритмические задачи. Даже что-нибудь простое вроде проверки балансировки скобок на небольшом выражении - уже неподъемно. Что уж говорить о чем-то более сложном.
Аналогично с любыми вопросами, которые требуют вывода алгоритма (хотя бы простейшего) - ну например задачки навроде перевоза волка/козы/капусты
А почему она правильно должна отвечать на вопросы про ягоды? И что с последней картинкой не так? Не совсем понятно.
ну и да, чгпт3:
опасно ли есть ягоду "вороний глаз"?
Ягода, известная как "вороний глаз" (лат. Solanum nigrum), может быть опасной для потребления в некоторых случаях. Вороний глаз содержит алкалоиды, такие как соланин и гликоалкалоиды, которые могут быть токсичными при потреблении в больших количествах. Они присутствуют в основном в незрелых плодах и листьях растения.
Употребление большого количества ягод вороньего глаза может вызвать различные неприятные симптомы, такие как тошнота, рвота, боль в животе, диарея, головная боль и даже сердечные проблемы. В некоторых случаях симптомы могут быть серьезными и требовать медицинского вмешательства.
Если вы не уверены в безопасности ягоды "вороний глаз" или сомневаетесь, лучше избегать их употребления в пищу. Если вы случайно съели эти ягоды и у вас возникли какие-либо неприятные симптомы, рекомендуется немедленно обратиться к врачу или в медицинское учреждение для получения соответствующей помощи.
Получается, если съесть немного, то риск отравления будет минимальным?
Если вы съедите небольшое количество ягод "вороньего глаза", риск отравления обычно будет минимальным. Однако степень токсичности ягод может варьироваться в зависимости от множества факторов, включая взрослость ягод, общее состояние здоровья, индивидуальную чувствительность и количество съеденных ягод.
Даже небольшое количество ядовитых ягод может вызвать неприятные симптомы у некоторых людей, особенно если они более чувствительны к токсинам. Поэтому рекомендуется избегать употребления этих ягод в пищу.
Если вы по ошибке съели немного ягод "вороньего глаза" и у вас нет никаких неприятных симптомов, вероятность серьезных проблем невелика. Однако, если у вас появляются любые необычные симптомы или вы ощущаете дискомфорт, рекомендуется немедленно обратиться к врачу для получения консультации и оценки вашего состояния.
На основании чего такой вывод? Мы ведь не знаем размера сети и затрат на обучение. Вдруг там (чисто умозрительно) сотня миллионов параметров, и обучалось оно час на одной а100?
Тогда позором в сравнении окажется кривая поделка от openai.
>Точнее проблема даже не в том, чтобы объяснить конкретно про свисток, а в том, чтобы провести грань где оружие, а где нет
Нейросети немного не так работают, у них нет понятий и определений. Если "свисток" в обучающей выборке используется статистически как оружие, то и в генерации сети статистически он будет использоваться как оружие (если аппроксимация сетью достаточно точна). А если не будет - то не будет. Какое определение у свистка и оружия сети не важно, это важно для человека, который понимает термины и обладает моделью мира.
Проблема решена уже десятилетия назад - любое потенциально опасное действие требует подтверждение от человека со стороны непосредственно системы, которая это действие будет выполнять (т.е. получит команду от сети).
Ну, ожидаемо. Кто-то действительно думал, что это все делается для того, чтобы кому-то там повестки рассылать или какие-то там ограничения накладывать?
Пройдут годы, отчитаются об освоении бюджетов, расскажут в новостях о новой "аналогов.нет" системе призыва, а военкомы так и будут вести учет при помощи устройства "бумажная папка" с надежным хранением и репликацией на серверах типа "деревянный шкаф".
Тут провал, т.к. сетка не может выполнять алгоритмические задачи. Даже что-нибудь простое вроде проверки балансировки скобок на небольшом выражении - уже неподъемно. Что уж говорить о чем-то более сложном.
Аналогично с любыми вопросами, которые требуют вывода алгоритма (хотя бы простейшего) - ну например задачки навроде перевоза волка/козы/капусты
А почему она правильно должна отвечать на вопросы про ягоды? И что с последней картинкой не так? Не совсем понятно.
ну и да, чгпт3:
опасно ли есть ягоду "вороний глаз"?
Получается, если съесть немного, то риск отравления будет минимальным?
На основании чего такой вывод? Мы ведь не знаем размера сети и затрат на обучение. Вдруг там (чисто умозрительно) сотня миллионов параметров, и обучалось оно час на одной а100?
Тогда позором в сравнении окажется кривая поделка от openai.