Pull to refresh
3
0
inakrin @inakrin

User

Send message

Интересно, что для меня всегда было самоочевидно, что мозг предсказывает следующее слово в речи и реагирует на несовпадение реальности с предсказанием. Под очевидно, я имею в виду, что это непосредственно происходит в моём субъективном опыте, когда я слушаю или говорю с кем либо, я своего рода "слышу" слова, которые они ещё не сказали, но я ожидаю услышать. Я не помню точно и сейчас кажетс, что так происходило всегда, но возможно заметно это стало после начала практик медитации примерно 10 лет назад.

Пока хуавей так и не даёт разблокировать загрузчик своих устройств (Отвечая отписками в стиле, что это, мол для пущей безопасности пользователей) я всем, кто колеблется, рекомендую никакие устройства его не покупать. Поддерживать компанию, которая не даёт полноценно владеть купленным устройством - в перспективе стрелять себе в ногу.

Пусть разоряются и сяоми их место занимает. (Пишу как владелец нескольких устройств сяоми с установленным рутом)

История с Блейком и LamDA показывает, что даже в гугле может работать человек с мышлением, очень далёким от реального мира и не понимающим техническую сторону вопроса вообще. Философскую, впрочем, по моему мнению, тоже.
Люди, обсуждающие AI, и этику, и т.д. и т.п., почему-то часто не могут дойти до следующих выводов:
Человеческое сознание развивается в человеческом теле, в котором через все органы чувств без перерывов ежемоментно поступают условные гигабайты информации о состоянии окружающего мира, самих органов чувств и внутренних процессов тела. Человеческий язык любого уровня полон метафорами, которые основываются на том, как именно человек воспринимает и ощущает и интерпретирует окружающий мир.
Любая нейросеть, обученная на картинках из интернета, на терабайтах текста, и т.д. в принципе не может обладать сознанием, сходным с человеческим. Просто потому, что не обладает возможностью воспринимать мир подобно человеку. Ну или любому другому белковому существу. Человеческая этика основана на человеческих желаниях и представлениях о том, как делать так, чтобы было хорошо и правильно людям. Уже исходя из вышеизложенного любая человекоцентрическая этика не применима к искусственному интеллекту, существующему в абсолютно отличной среде. (Она возможно может быть применима, если люди создадут искуственного человека, дадут ему органы чувств, подобные человеку, и выстроят нейросети этого существа подобно тому, как работает мозг человека).

С технической стороны мне представляется, что сознание - это непрерывный процесс, который возникает из-за постоянного возбуждения нейросети поступающими данными (с органов чувств) и случайными сигналами, вызванными внутренне происходящими реакциями. Всё это обеспечивает непрерывный процесс мышления и само-осознания (при условии, что есть физическая возможность этого самоосознания, заданная био/техно программой). Каковы технические детали человеческого сознания, мне, увы ясно не до конца, но ясно, что в моменты существования этого сознания это непрерывный процесс, связанный с необходимостью постоянного наблюдения за состоянием окружающей реальности. Вызывающий постоянные необратимые изменения внутри субъекта, обладающего сознанием. (Пример: если вы помните, что происходило 5 минут назад, например - в вашем мозгу уже сформировались связи между нейронами, которые дают вам возможность это помнить).
Обученная нейросеть не обладает сознанием, потому что никто не подаёт на неё гигабайты данных с органов чувств ежесекундно. Она скорее подобна сложной статической базе данных, которая может отвечать на вопросы, подобно как postgres отвечает на sql. Возможно такие базы данных, связанные между собой и общим, постоянно изменяющимся контекстом - необходимое условие для сознания, но пока я думаю, мы ещё достаточно далеко от создания дейстительно осознающего себя AI. И в любом случае, человекоцентрическая этика может быть применима и имеет смысл только если этот AI подобен человеку.

Интересно, как она генерирует уже существующих животных.
Можете запустить это:
1. Nembrotha Cristata close-up on a stone with tunicates.
2. Pygmy seahorse(hippocampus bargibanti) on a gorgonian sea fan

Чтобы защитить персональную электронику достаточно ли будет завернуть всё в изолятор(полотенце, например) а потом в фольгу?

О, нет, нейросеть, которая подключает претренированную другую нейросеть для игры в шахматы, может будет и выглядеть со стороны как достижение того же результата. Но это сосем не то, что я имею в виду. Я имею в виду, что когда нейросеть, сможет, разговаривая со мной научиться играть в произвольную игру, может быть даже игру, которую я только что сам придумал, тогда я и признаю, что шаг к реальному интеллекту и сознанию сделан.

Есть ли хоть одна нейросеть, которой я после пространнго диалога о самоосознании и смысле жизни в стиле LaMDA могу объяснить правила шахмат в рамках этого же диалога (ну или крестиков-ноликов для начала) и которая сыграет со мной после на уровне школьника, осознающего, что он делает?

Что происходит с файлом, который лежит на жестком диске и не используется, не открывается и не перезаписывается?

Я прочитал диалог c этой нейросетью. И он выглядит в точности как диалог с нейросетью, обученной на тоннах текстов о дзенских коанах, просветлении и внутреннем опыте. И возможно НФ-романах о ИИ.

Наверняка очень впечетляюще для человека, который в принципе не понимает как работают нейросети. Понимает ли автор этого интервью это - а хз, у него написано "священник" в биографии, и его "ai ethics research" может быть просто желание подогнать реальность под фантазии. А может быть это просто хитрый способ поиметь что-то с гугла, а может это вообще такой хитрый рекламный ход, ибо похоже как чат бот Lamda опережает многие аналоги.

В интервью огромная куча вопросов о внутреннем мире чувствах, эмоциях. Их все (включая задание написать историю) объединяет одно общее: они все такого рода, что ответ на них не подразумевает собственно мыслительного процесса и усилия для ответа на них.

Я думаю, если попросить нейросеть решить математическую задачу, логическую дилемму, рассказать о каком-то эксперименте, спросить какие, по её мнению результаты получены в эксперименте, потом попросить поделиться мнением о настоящих результатах экспериментах, то выводу о разумности уже не так легко будет сделать.
Я могу изменить своё мнение, но тогда, когда увижу разговор с нейросетью о вышеописанных вопросах, реацию на шутки и оскорбления, способность разговаривать в диалоге о прошедших диалогах с другими людьми и выдавать осмысленный фидбек и пр.

А докер там запустить со всем что нужно в контейнерах - это вариант?

что риск не спать сутками, решить продать все имущество и резко помчаться за билетами на Бали — не мой случай.

Пишу с Бали. Отдал девять лет назад всё имущество друзьям, уехал автостопом из России и оказался в конечном итоге на Бали. Попутно выучи четыре языка на разном уровне, всё это время фриланер/удаленка. Радуюсь периодам гипомании как несказанному благу, справляюсь с депрессвными медитациями и физической активностью. По наблюдениям чем больше медитаций и физической активности в период Д тем скорее наступает и дольше длится М. Но замотивироваться сложно, конечно.

Возможно, что уже поздно заявлять, что в России пилите что хотите, будете в безопасности. Заявления такого рода требуют подтверждения и подтверждения временем, чтобы в течении пяти-десяти хотя бы лет ничего подобного истории Дмитрия Лопатина не происходило. И чтобы вышли официальные извинения и компенсации к пострадавшим ранее как признание вины со стороны государства.
Я знаю лично людей, которые разрабатывали проект на тот момент не имеющий аналогов в РФ. Именно подобные новости и опасения за свою безопасность привели к отказу от проекта в России, переезду в Индию и разработке более денежного, но уже не такого интересного проекта там. Мотивация озвученная была: лучше пилить условный яндекс маркет в Индии, который принёсёт больше денег просто по своей сути и охвату, чем пилить уникальное железо в россии с рисками, что кому-нибудь с погонами захочется это достижение присвоить.

Интересно, кстати, а где сейчас Игорь Сысоев живёт и как у него с мотивацией запиливать ещё один мега проект для суверенной экосистемы.

У меня всё сильнее и сильнее ощущение, что нужно больше и больше вкладываться сейчас (помимо микроэлектроники) в образование, психологию, социологию и т.д. С весьма конкретными задачами:
1. Ответить на вопрос как обеспечить то, чтобы принимающие решения люди обладали нужными компетенциями. Во всех отраслях. И в нанокосмотехнологиях и в управлении ракетными крейсерами.
2. Ответить на вопрос как в текущих условиях договариваться с остальным миром. Люди где бы то ни было люди, и также принимают неверные/коррупционные решения и стреляют себе и окрружающим в ногу на любом конце карты. Вопрос как себя вести и как стрелять в ногу самим себе хотя бы пореже - вопрос социологии и псиологии IMHO.
3. Не помешала бы глобальная философская идея того, куда мы идём. Она худо бедно была у Советского Союза. У которого, кстати, во многом из-за этого и были союзники на всех континентах. Город Солнца земной из стен своих проектных НИИ так и не вышел, ну что же, давайте строить что-то ещё. Что-то, что вдохновит гипотетического разработчика литографического оборудования переехать в Россию и работать над подъёмом разработки с нуля, игнорируя другие предложения и возможности. (У Америки есть хоть Илон Маск с его мечтой о марсианской колонии). Заяви сейчас (не просто словами, а ещё и делом) любая страна, что они начинают проект колонизации Венеры/спутников Юпитера и им нужны программисты - за такую идею я бы сразу согласился работать хоть за 1/5 моей настоящей зарплаты. А вот работать за гипотечискую идею, когда в стране хозяева жизни потратили на яхты больше, чем на ракетные крейсера и марианские миссии, многие люди, я так понимаю, не хотят.

>что очень ставит серьезные этические барьеры на пути процедуры.

Я немного надеюсь, что в стране, которая балуется спецоперацией и покидает международные организации из-за этого этические барьеры такого рода перестанут быть проблемой и ученые пойдут по пути Хе Цзянкуя, который отредактировал эмбрионы своих дочерей, сделав их иммунными к ВИЧ. Одно из немногих хороших возможных последствий того, что сейчас происходит.

Я и многие были бы очень рады увидеть статью от вас. Вопрос стал для многих очень животрепещущим сейчас.

Заряжать телефон можно от термозарядки. У меня есть походный котелок с встроенным зарядником. Кипятишь воду и заряжаешь.

Из выяснения того, что "организм расходует энергию таким-то образом в таких-то условиях" абсолютно не следует вывод, что "занятия спортом не помогут похудеть". Тем более, что статистика говорит об обратном.

Беда многих современных авторов книг в том, что они, злонамеренно или нет, на основе полученных данных приходят к выводам, которые звучат громко, но отнюдь не следуют из полученных данных.

Information

Rating
Does not participate
Registered
Activity