Диктатура «чёрного ящика»
Каждый технологический прорыв последних лет сопровождается мантрой: «Искусственный интеллект меняет мир». Нейросети пишут код, диагностируют болезни, генерируют смыслы и всё чаще получают доступ к рычагам управления. Однако за фасадом этого триумфа скрывается фундаментальный концептуальный раскол. Доминирующий подход в индустрии (масштабное глубокое обучение) привёл к методологическому отступлению от классической кибернетики. Основатели кибернетики: Винер, Эшби, Бир — создали науку об управлении и связи. Главным постулатом науки было понимание структуры системы, её контуров обратной связи и предсказуемости её гомеостаза (равновесного состояния). Современная индустрия ИИ намеренно пошла по принципиально иному пути. В массовом внедрении мы больше не проектируем логику мышления машины как верифицируемую схему. Мы скармливаем ей терабайты данных в надежде, что внутри гигантской статистической матрицы «эмерджентно» зародится нужное нам поведение. При этом существуют альтернативы — ней...