Верификация программного обеспечения в эпоху искусственного интеллекта

[DinaSit]

Теперь два вопроса в голове:

1) если мы работаем над одной задачей с учетом галлюцинаций модели, она генерирует нам какое-то решение, которое верно, но не на 100%. А вероятности перемножаются... значит, чем дольше мы работаем над задачей, тем хуже результат?

2) галлюцинации не недостаток, а флажок чтоб обратить внимание на статистически слабое место при решении задачи?

[dvdemon]

Проблема в вероятностной природе получаемого программного обеспечения. Что бы понять - на сколько корректно полученное программное обеспечение (по сути, то что оно соответствует требованиям) - может потребоваться усилий на много больше чем для его создания. Собственно, Бертран в своем докладе и предлагает - давать ИИ части, которые не требуют сложной верификации.