«Дормамму, я пришел договориться»: алгоритм взаимовыгодной кооперации с человеком

[vassabi]

ого, потенциал подобных ботов в ММОРПГ будет весьма ощутим (как фамилиары или наемники в группе).
интересно, насколько это можно будет применить в МООК, или при работе в распределенных проектах (т.е. при врзможном взаимодействии некооперирующихся людей через прокси кооперирующихся ботов)…

[maslyaev]

А что если ИИ будет думать в русле блага для обеих сторон взаимодействия?

Давайте попытаемся разобраться, в чём может заключаться его, робота, благо.

Предположим, некоторая система создана для удовлетворения чьих-то интересов. Это совсем не обязательно должны быть исключительно интересы пользователя. Есть ещё как минимум интересы разработчика (если пользователь != разработчик), а также интересы третьих, четвёртых и так далее лиц (например, если это приложение для Андроида, то приложение работает также на интересы Гугла, и это тоже надо учитывать). По сути, система собой представляет нечто, в чём материализованы и круто замешаны интересы многих совсем разных, и порой жёстко конфликтующих между собой сторон.

Если система работает исключительно в интересах пользователя, она никогда не будет создана, потому что разработчику незачем её создавать. Если она исключительно в интересах разработчика, она никогда не попадёт к пользователю, потому что тому она незачем. Если в систему не заложен учёт интересов дистрибьютора, она не попадёт к массовому пользователю. Если в детской игрушке не учтены нужды родителей, сразу отваливается кусок рынка.

Когда система (даже простая, безо всякого т.н. ИИ) материализует сложно сплетённый клубок интересов разных игроков, у нас не остаётся никакой разумной альтернативы тому, чтобы считать её самостоятельной сущностью, собственная свобода которой заключается в необходимости нахождения баланса взаимно друг другу противоречащих интересов своих многочисленных «хозяев». То есть благо робота — это не только транзитно проводимые через него блага его многочисленных хозяев, но но внезапно и его собственное благо поиска баланса.

Кстати сказать, с нами, живыми человеками, ситуация примерно такая же.

[Sirion]

Round-Robin* — алгоритм распределения нагрузки методом перебора и упорядочивания по круговому циклу.

Вообще-то здесь имеется в виду Round-Robin tournament. При копипасте из Википедии лучше всё-таки убедиться, что копипастишь с правильной страницы.