Сможет ли искусственный интеллект когда-нибудь сравняться с человеческим интеллектом? Многие эксперты десятилетиями считали, что достижение искусственного интеллекта человеческого уровня, так называемого искусственного общего интеллекта (ИОИ), — лишь вопрос времени. Однако недавняя публикация известного учёного-компьютерщика Питера Дж. Деннинга предполагает, что истинный человеческий интеллект может быть недостижим для машин. Он выдвигает этот тезис в своей книге «Ошибка Тьюринга: освобождение от гнета неразумных машин».
Искусственный интеллект сбил с пути истинного
Деннинг анализирует влияние идей Алана Тьюринга, пионера теоретической информатики, на развитие искусственного интеллекта. Именно Тьюринг в 1950 году предложил знаменитый тест, определяющий, может ли машина имитировать разговор человека до такой степени, что его невозможно будет отличить от живого человека. Однако Деннинг утверждает, что предположение о том, что человеческий интеллект может существовать без тела и быть воссоздан в виде программного обеспечения, оказалось ложным и на протяжении 75 лет вводило исследования в области ИИ в заблуждение.
По мнению Деннинга, вера в то, что машинный интеллект можно подтвердить с помощью имитационной игры, теста Тьюринга, и вера в то, что интеллект может быть чисто цифровым, сформировали всю область искусственного интеллекта. Он считает, что нынешний кризис является следствием этого: машины становятся все более способными обрабатывать информацию, но они не приближаются к подлинно человеческому уровню понимания мира.
Знания, скрытые за пределами досягаемости машин
В основе аргументации Деннинга лежит концепция неявного знания. Эта обширная область человеческого познания не может быть выражена словами или сохранена в символической форме, понятной машинам. Неявное знание включает в себя, помимо прочего, здравый смысл, повседневное взаимодействие с окружающей средой, чувства, интуицию, практические навыки, а также культурный и социальный контекст наших действий.
Попытки каталогизировать знания, основанные на здравом смысле, предпринимались еще в 1980-х годах, включая проект Cyc Дугласа Лената. После четырех десятилетий работы было собрано 25 миллионов фактов. Однако, как отмечает Деннинг, даже такая обширная база данных не приблизила машины к экспертному пониманию мира. Оказалось, что ключевая часть экспертных знаний не может быть выражена в простых утверждениях и предложениях.
Машины знают, что, но не знают, как
Практические навыки представляют собой еще большую проблему. Деннинг подчеркивает, что, хотя мы можем описать желаемый эффект действия (знать, что), мы не можем закодировать в машине знание того, как достичь этого эффекта (знать, как). Музыканты, например, могут сыграть прекрасное произведение, но не смогут передать ученику все нюансы исполнения, которым они овладели. Даже если бы робот мог имитировать движения музыканта, он не понял бы эмоций, сопровождающих исполнение, или реакции аудитории.
Неявные знания также включают в себя интуицию, предчувствия, спонтанное творчество и воображение — области, которые не поддаются формализации. Деннинг указывает на так называемую проблему представления как на фундаментальное препятствие на пути к созданию искусственного общего интеллекта. Каждая компьютерная операция требует кодирования данных и инструкций в физической форме, которую машина может распознать и обработать. Неявные знания, по определению, сопротивляются такому кодированию.
Непреодолимый барьер для языковых моделей
За каждым словом скрывается глубокий смысл, который невозможно свести к символам. Популярные языковые модели, такие как ChatGPT или Gemini, работают исключительно на уровне слов, не понимая их значения, а лишь манипулируя символами. Это, как утверждает Деннинг, создает непреодолимый барьер: поскольку мы даже не можем объяснить, как работает неявное знание у людей, мы не можем передать его машинам.
Деннинг утверждает, что между человеком и машиной существует взаимная непроницаемость. Искусственные нейронные сети могут развивать собственные «машиноподобные» неявные знания, которые человек не может понять, и, наоборот, машины не смогут постичь наши неявные знания. Это, по мнению автора, создает непреодолимый разрыв.
Контекст и культура — у машин этого нет
Ещё один аспект, который, по мнению Деннинга, препятствует достижению машинами человеческого уровня интеллекта, — это роль контекста и культуры. Контекст придаёт смысл нашим высказываниям и действиям, позволяет нам отличать иронию от искренности, гнев от юмора и определяет, например, когда следует использовать юмор. Каждая ситуация основана на предыдущем опыте и разговорах, создавая бесконечную сеть отсылок.
Аналогичным образом, культура — наши ценности, нормы, история, общественные настроения и властные отношения — пронизывает каждый разговор и каждое решение. Деннинг подчеркивает, что даже самые продвинутые языковые модели не могут усвоить эти культурные знания. Увеличение вычислительной мощности и размера нейронных сетей не приблизит машины к цели теста Тьюринга — мышлению, неотличимому от человеческого.
Последствия для безопасности
Это имеет серьезные последствия для безопасности ИИ. Поскольку машины не могут понять невыраженный контекст действий человека, будет сложно надежно адаптировать их к нашим намерениям. Автор предупреждает, что сети автономных машин могут развить собственный, инопланетный интеллект, который, хотя и не будет равен человеческому интеллекту, может стать источником серьезных проблем. Суть не в том, что сверхинтеллектуальные машины захватят власть, а в том, что их способ мышления и решения проблем будет непонятным и потенциально опасным для нас.
Человечество сталкивается с проблемой адаптации к жизни в мире, где всё больше решений принимается машинами, руководствующимися чуждой логикой. Автор призывает нас сохранять бдительность и сопротивляться искушению подчиниться диктату машин.
Читайте не тему: Искусственный интеллект в экономике – вызов этике
