Вот всякие нелюбители написанного нейросеточками программного кода любят, закатывая глаза, задавать вопрос — а представьте себе, что вы едете на автомобиле или летите на самолете, код для которого написала чатгопота! Предполагается, что после этого собеседник должен вспомнить, как эта чатгопота эпично лажает и согласиться, что уж в «критических» отраслях код все равно будут писать руками.
Так вот, если вы читали какой-нибудь стандарт разработки ПО в этих самых отраслях — рекомендую как раз авиационный КТ-178B, во-первых, он написан более-менее человеческим языком, а во-вторых, его можно найти в интернетах бесплатно — то могли заметить, что там делается все, чтобы роль личности в истории квалификации конкретного программиста, аналитика, кого угодно в проекте не влияла на безопасность получающегося продукта. Кто-то из программистов на хабре даже рассказывал, будто самое короткое собеседование у него было в контору, разрабатывающую авиационное ПО, и состояло оно из двух вопросов: «Не долбоеб?» и «Си знаешь» — видимо, с расчетом на то, что привыкшая к многоступенчатой айтишной игре в «собеседования» аудитория ужаснется — еще бы, софт для «Суперджета» могут взять писать даже Васяна с улицы! С учетом того, что самолеты падают заметно реже, чем творчество среднего программиста, вывод должен быть прямо противоположным — в авиации процессы разработки софта поставлены так, что даже самому-самому хреновенькому программисту просто не дадут совершить фатальную ошибку.
В общем, идея лежит на поверхности — да, пусть нейронки туповаты, пусть они пишут код на уровне сраного индуса — но если обложить чатгопоту средствами верификации так же, как того Васяна — то можно получить вполне себе вменяемый результат, причем идут к этому с обеих сторон — писатели кода под КТ-178 понимают, что код — это лишь производная от спецификации, а те, кто пробует писать код нейронками, попросту заново переизобретают подходы из мира разработки надежного ПО.
Собственно, это — один из тезисов лекции про ИИ-агентов из курса по КТ-178 — при наличии хорошо поставленного процесса разработки ПО в целом все равно, кто пишет код — мясной программист или иишенка. И в целом — даже несмотря на консервативность разработчиков «критичного» ПО — они намного больше готовы доверить написание кода нейронкам, просто потому, что уже применяют все подходы, позволяющие не пропускать ошибок в «живую» систему.