Документируйте ИИ или как не провалиться в многомиллионные убытки

Привет, слышали про Искусственный интеллекту (ИИ)? А про ИИ из каждого утюга?
Утюги говорят, что это очень полезная разработка? Помощники, ассистенты, чат-боты, фото/видео редакторы, диагносты и еще миллионы вещей делать умеют. ИИ уже пишет код, составляет резюме и придумывает тексты для Хабр. Но вместе с этим растут и риски. Причем не только баги, но и настоящие миллионные убытки.
Недавно я задала ИИ несложный вопрос и столкнись с неожиданным, неверным ответом, который меня озадачил