OpenAI нанимала учёных для проверки рисков и преимуществ GPT-4 — нейросеть создала новое нервно-паралитическое вещество

[Arhammon]

Ципреметрин которым обрабатывают даже одежду от клещей, тоже нервнопаралитический яд... свободно продаётся в магазине... Да что там одежду, им регулярно обрабатывают продуктовые магазины, ждем новость от журналистов...

[Tangeman]

Есть существенная разница между "пойти в гугль, собрать что-то вредное из компонентов в супермаркете, реализовать и применить" (нужны мозги) и запросом к чему-то а-ля ChatGPT в духе "Напиши мне подробный пошаговый план как отравить всех в большом помещении за 5 минут используя только продукты бытовой химии и аптеку" (мозги почти не нужны).

Очень скоро появятся системы заточенные на подобные планы (и обученные на многочисленных руководствах для всяких партизан) - и жить станет ещё веселее. Хотя в теории это всё как бы и так есть в гугле и прочих яндексах, да...

[ngru]

Всмысле, GPT-4 же в 2023 только выпустили, откуда 2022 🤔

[Travis_Macrif]

Добрый день. В статье речь идёт о тестировании, которое длилось в течение шести месяцев.

[Cybermorzh]

Интересно, почему никто не предложил GPT разработать быстродействующий долговременный мощный антидот для ФОС? Или, скажем, универсальную цель для противоопухолевой терапии? Или эффективное моноклональное антитело для амилоидов? Или новые факторы для программирования клеточной дифференциации?

Может, проблема не в LLM?

[sintex]

Потому, что команда "красная"

[iig]

Я уверен, что если собрать команду специалистов и поставить ей задачу - они найдут решение. С GPT, возможно, быстрее чем без.

Если поставить задачу перед неспециалистами - они не найдут решение.

[mikhanoid]

Может, проблема в следующем? Если они говорят, что GPT-4 разработала новый яд, никто не сможет это проверить, ведь, они скажут, что этические нормы не позволяют открыть им формулу. Если они скажут, что разработали лекарство, придётся предъявить результат, а не просто "впечатления учёного".

[Kanut]

Модель даст каждому инструмент для более быстрого и точного проведения химических анализов, однако это влечёт значительный риск для людей, отметил Уайт

Замените "модель" на "компьютер" или даже "письменность" и утверждение всё так же останется в силе....