Comments 22
В частности, они генерируют «галлюцинации» — ложные, но очень правдоподобные утверждения, которые сложно отличить от правды. Это вызывает необходимость пересмотра концепции фальсифицируемости, так как многие утверждения, созданные ИИ, не могут быть легко опровергнуты стандартными научными методами.
Если "галлюцинация" нефальсифицируема в принципе, то она тем самым автоматически не соответствует критерию Поппера. Если же не может быть "легко" опровергнута (что бы под этим ни подразумевалось), а "сложно" - может, то она ничем не отличается от аналогичных гипотез, выдвинутых человеком, и тем самым тут вообще нет ничего нового и никакой смены философии. А вопрос, стоит ли проверять такую гипотезу, выходит явно за рамки применимости критерия Поппера как такового.
Современная «парадигма достоверности» (где истина подтверждается авторитетом/верификацией) больше не работает в условиях ИИ.
В части подтверждения авторитетом то, что вы пишете, не "больше не работает", а не работало именно в подтверждении научной истины вообще никогда. Вот во всяких околонаучных терках, чесании ЧСВ, делении бюджетов и прочая - там работает, да. Но не в сфере собственно подтверждения истины (если мы говорим именно о науке, в других областях деятельности человека вполне применяется на практике). А вот верификация, напротив, всегда работала, работает и будет работать, вообще независимо от того, кем генерируются гипотезы, человеком или ИИ.
Имре Лакатош предложил концепцию «исследовательских программ», которые составляют основу научных теорий. Важным элементом в этой теории является разделение «ядра» теории, которое не подлежит опровержению, и «пояса защиты», состоящего из гипотез, которые защищают ядро от опровержений.
Здесь вы вообще фундаментально искажаете суть его воззрений. "Ядро" не "не подлежит опровержению", а не отбрасывается сразу при обнаружении противоречащих фактов, модифицируясь дополнительными гипотезами. Но при накоплении критичной массы противоречий либо дальнейшем отсутствии позитивных предсказаний оно может (и должно быть) отброшено.
В традиционном научном процессе знание получало свою достоверность через экспертные оценки и проверку.
Еще раз. В научном процессе экспертные оценки не являются критерием достоверности. Если вы пишете о какой-то области знаний, где они таковыми критериями являются, это не наука. В науке же экспертная оценка может быть, например, критерием перспективности гипотезы, который влияет на вероятность продолжения исследований в этом направлении, но никак не критерием достоверности.
Таким образом, концепция репутации, как ключевого элемента доверия в цифровом мире, становится эпистемологическим механизмом, который усиливает коллективный интеллект,
Концепция репутации, если ее использовать как "подтверждение" истины, не просто не помогает науке, а активно ей вредит.
верификация, напротив, всегда работала, работает и будет работать, вообще независимо от того, кем генерируются гипотезы, человеком или ИИ
В чем-то вы правы, поскольку под верифицируемостью вы понимаете проверку опытом. Но вы упускаете из виду, что теперь проверка на опыте доступна только государствам и корпорациям. Только они могут строить коллайдеры и токомаки. Для обывателя доступны только публикации об опытах, которые успешно подделывает уже любая нейронка. И обыватель будет потреблять новости о фейковых опытах так же как и о достоверных, поскольку у вас нет критерия достоверности.
Только они могут строить коллайдеры и токомаки.
Для науки как таковой это вообще непринципиально. А вот если вы рассматриваете проблему доступности научного знания обывателю и возможность обывателя получать объективные знания о картине мира, то такая проблема действительно существует. Но тогда ее и формулировать надо именно так, а не как проблему научного метода и философии науки.
Если "галлюцинация" нефальсифицируема в принципе, то она тем самым автоматически не соответствует критерию Поппера.
Именно поэтому ни одна нейронка не имеет права претендовать на достоверность. Сколько бы миллиардов не было вложено в ее разработку. И что бы ни говорили ее разработчики. Принцип "моя база данных или онтология достоверны, потому что они мои" — не может быть основой достоверности.
По остальным Вашим замечаниям — я так понимаю, Ваша позиция "ничего менять не нужно". Ок. Но мой текст не об этом.
Моя позиция в том, что наука работает не так, как вы описываете, а общепринятые концепции текущей философии науки вы просто искажаете, пытаясь их описать. А, как известно, garbage in - garbage out.
А вы могли бы в одном абзаце описать как работает научный метод? Желательно в виде алгоритма.
Если мы говорим о естественных науках, то примерно так:
Получение эмпирических данных путем наблюдения за окружающим миром.
Формулирование вопросов, на которые текущее знание не дает ответа. Например, в каком-нибудь первобытном мире "Почему вода падает с неба, откуда она там? Почему птицы могут летать, а люди нет?", в современном - "существует ли единый механизм образования раковых клеток, почему количество материи во вселенной, вычисленное/наблюдаемое разными методами, различно?" или что-то подобное.
Поиск гипотез - предположений, которые могли бы дать объяснение.
Проверка гипотез - постановка экспериментов (как натурных, так и мысленных), а также поиск возможных противоречий с существующим подтвержденном знанием.
Анализ результатов и выводы.
В зависимости от результатов переход к одной из предыдущих стадий.
И обратите внимание на то, что а) философские концепции в реальной работе ученых практически не задействуются и напрямую на нее не влияют, б) "экспертное мнение" или "авторитетность" не используются ни на какой стадии.
Науки, непосредственно изучающие человека или общество имеют свою специфику - сильно ограничены в экспериментальной проверке. А математика, напротив, вообще не нуждается в натурном эксперименте, эмпирические наблюдения для нее также не обязательны (хотя могут и использоваться). Но фундаментально сам процесс везде один и тот же.
Попытки применить современные ИИ к научному методу создадут очевидные проблемы в п.4-5, но эти проблемы носят технический, а не фундаментально-философский характер. Фундаментальные проблемы возникнут тогда, когда сложность этих пунктов станет такой, что они в принципе станут доступны только ИИ, но сейчас мы даже близко не на этой стадии и не факт, что когда-то к ней придем.
Спасибо, что так подробно описали. К сожалению, все это относится только к честным исследователям. Но есть множество мошенников, карьеристов и прочих троллей и ботов, пытающихся оказать влияние на картину научных знаний. Есть и аферисты от науки. И здесь выясняется, что светила эпистемологии много чего понаписали, но не дали рецепта, как отличить одних от других. И в Вашем алгоритме этого тоже, увы, нет.
Нет, потому что он про науку. А то, о чем говорите вы - собственно наукой не является, а принадлежит к одной из двух сфер:
Вопросы управленческие - если вы финансируете науку и хотите понимать, как по возможности минимизировать траты на всякую дичь.
Вопросы донесения научных знаний до широких масс. Тут вообще все запутано, потому что мало того что есть шарлатаны, искренне заблуждающиеся и прочие несущие в массы всякую чепуху, так еще и есть вопросы, а стоит ли этим массам доносить всякое знание, или некоторое лучше придержать.
Темы важные и сложные, но в рамках философии науки вы ответа не найдете. А вот ее методологию лучше знать, она помочь может, но только в первом вопросе. Во втором и она не поможет, потому что речь идет уже о готовом, полученном знании, а не о его поиске.
В ваших ответах проскакивает какой-то снобизм. Вы явно именно себя считаете представителем науки и как следствие полагаете, что только вы исполняете научный метод. Но, увы, вы так же как и все остальные заперты в своем личном информационном пузыре со своими галлюцинациями в персональном туннеле реальности. Концептуально вы ничем не отличаетесь от безграмотного негритенка в Африке. Во всяком случае, вы не можете объективно и непредвзято измерить свое знание от его незнания и сопоставить их друг с другом для определения взаимной непротиворечивости.
Еще одно небольшое замечание, последнее - когда речь идет о научном знании, оценивать нужно не личность собеседника, а содержание того, что он пишет. Засим оставлю вас общаться с негритятами в Африке, уверен, что они вам расскажут о философии науки, научном методе и их связи с ИИ ничуть не меньше моего. Концептуально. :)
Вы отрицаете, что у вас есть свои галлюцинации, что вы находитесь в персональном туннеле реальности и видите мир изнутри личного информационного пузыря?
Я отрицаю возможность конструктивного диалога, если вместо ответов по существу обсуждаемых вопросов собеседник подменяет тезис и переходит на личности.
Это и есть самая суть обсуждаемого вопроса — абсолютно все люди без исключения галлюцинируют включая и Вас, и меня, и самых великих представителей науки. Все находятся в ловушке персонального туннеля реальности и видят мир изнутри личного информационного пузыря. Любой, кто утверждает обратное — мошенник.
Увы, но в этом никакой "сути", которую имеет смысл обсуждать. Тот факт, что сфера знаний человека ограничена, а его личное видение может быть искажено, сформулирован, понимается и принимается учеными как минимум с момента древних греков (более ранними эпохами в истории науки я не сильно интересовался). Предмет "обсуждения" тут попросту отсутствует, это общеизвестная данность. Но я по-прежнему не вижу, какое это имеет отношение к предыдущему диалогу.
В этом и проблема. Я перечислил множество изменений, которые должны произойти в традиционной эпистемологии, уже давно не справляющейся с современными вызовами, особенно теперь в эпоху галлюцинирующих фейкогенерирующих нейросетей. А Вы продолжаете вспоминать о каком-то абстрактном идеализированном "научном методе" в вакууме, которого никогда не было даже у древних греков. А сейчас он вообще превратился в мутное месиво из замшелых кафедр, коррумпированных госакадемиков, продажных научных издательств и прочих мошенников от науки, прикрывающихся фейковыми дипломами и публикациями, купленными у других мошенников, которые их плодят пачками с помощью ЧатаГПТ. Как теперь при этом определить научную достоверность чего бы то ни было ни седомудрые философы-эпистемологи, ни Ваше описание научного метода не отвечают.
Ну я же вам с самого начала сказал - вопросы донесения информации до общества не имеют прямого отношения к научному познанию как таковому, их надо отделять и рассматривать отдельно. То, как изучают мир ученые, и то, как получают уже готовую информацию о нем обыватели - разные процессы. И комментировал я только ваши суждения относительно именно науки, потому что они не имеют отношения к тому, как она реально работает. У современной науки есть свои вызовы, но они слабо связаны с перечисленными вами.
каком-то абстрактном идеализированном "научном методе" в вакууме, которого никогда не было даже у древних греков.
Это не "абстрактный идеализированный метод", а реальное описание процесса работы ученого. Вот прямо сейчас они работают именно так, и в прошлом так же было, и дальше будет. И следование научному методу в своих исследованиях - один из главных критериев отличия ученого от шарлатана или искренне заблуждающегося дилетанта.
У меня складывается впечатление, что тут у вас проблема с базовыми определениями. Есть "наука" как непосредственно область деятельности, которая направлена на получение объективных знаний об окружающей действительности, а есть "наука" как организованный общественный институт, который призван этой деятельностью заниматься. Ваши претензии направлены к текущему состоянию второго значения, но рассуждать вы пытаетесь об инструментарии первого. Так не получится. :)
ни Ваше описание научного метода не отвечают
Прекрасно отвечает. Пройдите по шагам, вот и всё. Вы либо получите подтверждение результатов, либо нет. То, что случайный человек с улицы этого проделать не сможет или не захочет - ну так это вообще абсолютно другой вопрос, см. первый абзац.
Простите, а какая наука или область философии изучают то, как ученые фальсифицируют научные знания? Вы же не будете утверждать, что там все святые или что научным изучением научных фальсификаций должно заниматься общество?
Попробуйте ответить на вопрос - кому и зачем нужно изучение научных фальсификаций? Автоматически и получите ответ "кто должен заниматься".
Вы хотите сказать, что ученым они неважны?
Ученым в контексте собственно научной работы - неважны. Развеивание чужих заблуждений или пресечение злонамеренных действий не являются прямой задачей науки. Ну вот представьте - сидит какой-нибудь геофизик, проверяет какую-то очередную теорию о потоках магмы в земной мантии, а в интернетах кто-то пишет, что земля плоская. И что дальше? Какие обязательства это должно наложить на геофизика, как вы считаете? :)
Другое дело, что ученый - тоже человек, и ему может быть за державу обидно, или может быть какая-то другая социально-общественная мотивация (например, он хочет, чтобы научная деятельность развивалась, для чего нужен приток новых людей, для чего нужна популяризация науки среди детей и молодежи, а также понимание на уровне людей с деньгами и властью, что науку надо финансировать). И тогда ученый вполне может заниматься просветительской деятельностью, заседать во всяких комиссиях, распределяющих деньги на исследования, и т.п. Но - бога ради, отделяйте эту деятельность от собственно научной в узком смысле. Философия и методология науки ко всему этому не имеют отношения, ни в "условиях современных вызовов", ни в каких-то других условиях.
Как киберэкономика и ИИ меняют философию науки? Поппер, Кун, Фейерабенд и Лакатош в условиях цифровых технологий