Комментарии 10
Если уж естественный интеллект может генерировать дезинформацию, как умышленно, так и неумышленно, не до конца разобравшись в фактах, причинах, и последствиях, то что говорить об искусственном интеллекте? Он подражает своему создателю и точно также может генерировать дезу и бред.
Директор РенТВ одобряет...
Ну если нейросеть учить на текстах в интернете (а там есть и сайты с плоской землей) то не удивляйтесь что он предлагает и это. Что посеешь то и пожнешь
В другом обсуждении я перечислял свое видение актуальных проблем внедрения подобных нейросетей. Так вот пункт 3:
Нейросеть обученная на идеологически стерильной информации будет идеологически стерильной и нести только одно мнение. В условиях уже упоминаемой корпоративной цензуры, и истерии по поводу фейк-ньюс и SJW - это может стать очень опасным трендом.
Объясню, почему я считаю стерильность информации большим злом, чем её недостоверность. Информация реплицируемая нейросетями должна отражать мнение общества. Иначе это цензура.
Поэтому, я надеюсь демонстрация возможностей Bard-а по представлению РАЗНЫХ мнений не вброс, для того, чтобы потом иметь полное право программно внедрить фильтры, а демонстрация именно естественных ограничений нейросети.
Нейросеть не должна становиться авторитетом и лидером мнений. Не для того она создавалась. Её "интеллект" основан не на логике, и даже не на здравом смысле, а на статистике. Что туда всыпали, то и получили. Я считаю этот факт нужно писать крупными буквами на любом выводе нейросети, как на пачке сигарет пишут "Курение убивает!"
Конечно, о различных способах самоубийства можно найти информацию в интернете если задаться такой целью, но куда авторитетнее мнение google, и если бот google сказал, что прыгнуть с крыши безболезненно, то не верить ему будет сложно. Никто не хочет нести ответственность, потому пытаются фильтровать то, что поступает на вход нейросети. Они обучают свой продукт, а не представителя человечества, эссенцию всех знаний и мнений.
Опять же, своему ребенку вы не будете с пяти лет показывать порно и учить материться. Родители вольно или невольно хотят воспитать свой идеал человека, вложить свое мнение в его головку. Заказывают репетиторов в Нигерии по одному доллару, устанавливают детские фильтры на рутер. Ребенок должен быть умненький, фотогегиничный для инстаграма, не матерится, уметь считать до ста. А потом выходит, что он на улице научился материться и наслушался про секс удивительных историй.
Вы же понимаете, что проблема в том, что "куда авторитетнее мнение google". Гугль не должен быть авторитетом. Ни моральным, ни научным. Его дело искать для нас информацию. Фильтровать для себя и своих детей её должны люди сами.
куда авторитетнее мнение google, и если бот google сказал, что прыгнуть с крыши безболезненно, то не верить ему будет сложно
И что... может это и так... Даже если ученые скажут также, не пойдут жэ все прыгать с крыш
Да тут как бы далеко ходить не надо
Другие новости
Чат-бот Bard от Google научился правдиво пересказывать теории заговора