Comments 4
Ну вообщето это обучение с подкреплением (reinforcement learning)
давно известно, название моднявое поставили http://www.shumkoff.ru/iis/RL.php
Learning by Abstraction: The Neural State Machine
https://proceedings.neurips.cc/paper_files/paper/2019/file/c20a7ce2a627ba838cfbff082db35197-Paper.pdf
Это получается любой может взять открытую ИИ, которая умеет водить машину и попросить ее взломать комп или что- то еще.
Сейчас уже наверняка идет борьба стелс ии, которые должны заходить в страну и похищать секретную информацию адаптируясь и обучаясь на месте, при этом себя не раскрывая. Как человеческие шпионы, только компьютерные.
Сейчас пока не видно реальной опасности от ИИ типа восстания машин, потому что у Ии нет своих целей и смыслов + ИИ не ставит случайные эксперименты, т.е. по сути не может творчески подходить к решению задачи.
Но в целом достаточно, наверное, одной цели для ИИ, который может самообучаться разным навыкам, цели выжить любой ценой и умения ставить случайные эксперименты.
Специалисты из T‑Bank AI Research и AIRI обучили ИИ самостоятельно адаптироваться к новым действиям