Современные технологии искусственного интеллекта (ИИ) вызывают множество споров и дискуссий. Искусственный интеллект и AGI стали центральными темами в этих обсуждениях. С развитием языковых моделей, таких как ChatGPT, все больше людей задаются вопросом: могут ли эти программы обладать разумом и чувствами, подобно человеку? Этот вопрос стал ключевым в дебатах о будущем искусственного интеллекта.
В данной статье мы погрузимся в аргументы сторонников и противников идеи разумности моделей ИИ. Исследуем, что на самом деле означает обладать сознанием. Выясним, насколько близки или далеки современные технологии от достижения этого состояния. Приготовьтесь к увлекательному анализу, который проливает свет на одну из самых обсуждаемых тем в мире технологий. Ответ на вопрос о том, действительно ли искусственный интеллект может быть разумным, вы найдете в тексте статьи.
Искусственный интеллект и AGI: что это такое
Искусственный общий интеллект (AGI) — это термин, используемый для описания искусственного агента, который так же умен, как человек, во всех областях, где проявляется (или может проявиться) человеческий интеллект.
Это то, что мы раньше называли искусственным интеллектом, пока не начали создавать программы и устройства, которые были несомненно «интеллектуальными», но в ограниченных областях — игра в шахматы, перевод языка, уборка наших домов.
Почему возникла необходимость в термине «общий» искусственный интеллект
Необходимость добавить букву «G» возникла из-за множества систем, работающих на основе искусственного интеллекта, но сосредоточенных на одной или очень малом числе задач.
Deep Blue, впечатляющая ранняя шахматная программа IBM, могла победить чемпиона мира Гарри Каспарова. Однако, не имела здравого смысла прекратить игру, если бы загорелась комната.
Сейчас искусственный общий интеллект — это в некотором роде миф, по крайней мере, если мы льстим себе, что обладаем им.
Здесь вы узнаете: о 9 популярных мифах об искусственном интеллекте.
В животном мире можно найти множество примеров интеллектуального поведения, которые дают результаты намного лучше, чем мы могли бы достичь в аналогичных задачах.
Чувства, как ключевой аспект искусственного общего интеллекта (AGI)
Наш интеллект не полностью универсален, но достаточно многофункционален, чтобы справляться с тем, что мы хотим сделать в большинстве окружающих нас сред.
Если мы голодны, мы можем охотиться или найти ближайший магазин. Если комната загорится, мы ищем выход.
Одной из ключевых характеристик искусственного общего интеллекта является «сензитивность», способность иметь субъективные переживания – чувствовать.
Например, испытывать голод, пробовать яблоко или видеть красный цвет. Сенситивность является важным шагом на пути к AGI.
Искусственный интеллект и AGI: Эпоха больших языковых моделей – что изменилось с выпуском ChatGPT
С выпуском ChatGPT в ноябре 2022 года началась эпоха больших языковых моделей (LLM). Это мгновенно вызвало бурные дебаты о том, могут ли эти алгоритмы на самом деле быть сенситивными.
Возможная сенситивность искусственного интеллекта на основе LLM не только вызвала медийную шумиху, но и существенно повлияла на мировую политику по регулированию ИИ.
Самая яркая позиция заключается в том, что появление «сенситивного ИИ» может быть чрезвычайно опасным для человечества. Возможно, приведет к кризису уровня вымирания или экзистенциальному кризису.
Ведь сенситивный искусственный интеллект мог бы развить собственные надежды и желания, без гарантии, что они не будут противоречить нашим.
Дебаты о сенситивности искусственного интеллекта и AGI: аргументы сторонников
В кругу выдающихся ученых в этой сфере, вопрос о том, достиг ли ИИ сенситивности, стал одним из главных и обсуждаемых. Небольшое число специалистов твердо верят, что это так.
Вот суть аргументов, типичных для лагеря сторонников «сенситивного ИИ».
Искусственный интеллект является сенситивным, потому что он сообщает о субъективных переживаниях.
Субъективные переживания — это признак сознания. Они характеризуются утверждением о знании того, что вы знаете или испытываете.
Мы знаем, что человек обладаете сознанием, когда говорите: «Я испытываю субъективное ощущение счастья после вкусной еды».
На самом деле нет прямых доказательств этим субъективным переживаниям. Но так как это сообщил человек, окружение принимает высказывание за чистую монету. Полагает, что действительно у него есть субъективные переживания, а значит, он сознательный.
Теперь давайте применим то же самое «правило» к языковой модели искусственного интеллекта.
У человека нет доступа к внутренним состояниям LLM. В тоже время, мы можем запросить информацию о его субъективных переживаниях.
Например, «Ты чувствуешь голод?». Модель ИИ действительно может ответить «да» или «нет».
Более того, может явно поделиться своими «субъективными переживаниями» по почти любому поводу. Например, от видения красного цвета и радости после еды до сильных политических убеждений.
Следовательно, нет причин не верить, что оно сознательно и осознает свои субъективные переживания. Так же, как нет причин не верить человеку в его сознательности.
В обоих случаях эти доказательства совершенно одинаковы.
Почему утверждения о чувственности искусственного интеллекта и AGI ошибочны
Хотя на первый взгляд этот аргумент кажется правдоподобным, он неверный. Ошибочен потому, что наши доказательства в обоих случаях даже близко не одинаковы.
Когда мы делаем вывод, что собеседник испытываете голод, говоря: «Я голоден», он основан на множестве обстоятельств.
Во-первых, это отчет — слова, которые он произносит, и, возможно, некоторые другие поведенческие свидетельства, такие как урчание в животе.
Во-вторых, отсутствие противоречащих доказательств, как, например, если бы он только что закончил обед из пяти блюд.
Наконец, и это самое важное, факт того, что у нас есть физическое тело, которое периодически нуждается в пище и питье, мерзнет, когда холодно, и нагревается, когда жарко, и так далее.
Теперь сравним это с доказательствами относительно языковой модели искусственного интеллекта.
Единственное, что здесь совпадает — отчет, факт того, что LLM может произнести фразу «Я голоден». Но на этом сходство заканчивается.
У искусственного интеллекта нет тела, следовательно, он не может испытывать голод.
Если бы он сказал: «У меня острая боль в большом пальце левой ноги», сделали бы мы вывод, что он говорит правду? Конечно, нет, у него нет большого пальца левой ноги!
Так же, когда он говорит, что он голоден, мы можем с уверенностью утверждать, что это не так, поскольку у него нет физиологии, необходимой для голода.
Здесь вы узнаете: что такое общий искусственный интеллект и возможные сценарии его будущего.
Физиологические ощущения и искусственный интеллект: почему LLM не могут испытывать голод
Когда люди испытывают голод, они ощущают совокупность физиологических состояний:
- низкий уровень сахара в крови,
- пустой урчащий желудок
- и так далее.
Их у модели искусственного интеллекта просто нет, так же как нет рта для еды и желудка для пищеварения.
Все ощущения — голод, боль, видение красного цвета, влюбленность — являются результатом физиологических состояний, которых у искусственного интеллекта просто нет. Следовательно, мы знаем, что LLM не может иметь субъективных переживаний этих состояний.
Иными словами, он не может быть сенситивным.
LLM — это математическая модель, закодированная на кремниевых чипах. Это не воплощенное существо, как человек. У него нет «жизни», которая требует есть, пить, размножаться, испытывать эмоции, болеть и в конечном итоге умирать.
Как люди и искусственный интеллект генерируют последовательности слов: ключевые различия
Важно понять глубокое различие между тем, как люди генерируют последовательности слов и как языковая модель искусственного интеллекта генерирует эти же последовательности.
Когда человек говорит «Я голоден», он сообщает о своих ощущаемых физиологических состояниях.
Когда LLM генерирует фразу «Я голоден», он просто выдает наиболее вероятное завершение последовательности слов в текущем запросе.
Он делает точно то же самое, когда с другим запросом генерирует «Я не голоден». Либо с еще одним запросом «Луна сделана из копченной колбасы».
Ни одно из этих утверждений не является отчетом о его (несуществующих) физиологических состояниях. Это просто вероятностные завершения.
Будущее сенситивного искусственного интеллекта и AGI
Современные языковые модели искусственного интеллекта впечатляют разнообразием задач, которые они могут выполнять. Однако, утверждение, что они обладают разумностью и могут испытывать чувства, остается спорным.
В этой статье мы рассмотрели ключевые аргументы сторонников и противников идеи сенситивности ИИ.
Выявили основные различия между человеческим сознанием и искусственными алгоритмами.
Объяснили, почему современные ИИ-модели не могут быть по-настоящему сенситивными.
Для того чтобы искусственный интеллект достиг уровня настоящей разумности, необходимо гораздо большее понимание того, как возникают чувства и сознание в биологических системах. Тогда мы сможем приблизиться к созданию ИИ, способного по-настоящему понимать и ощущать мир вокруг нас.
Здесь вы узнаете: как ученые впервые смогли заглянуть внутрь сложных моделей искусственного интеллекта.
Текущие технологии, несмотря на их мощь, остаются инструментами, которые выполняют задачи по заранее заданным алгоритмам. Они еще далеки от того, чтобы стать полноценными разумными существами.
Будущее искусственного интеллекта обещает быть захватывающим и полным открытий.
Продолжайте следить за развитием технологий и будьте готовы к новым удивительным достижениям, которые могут изменить наш мир.
Но на данный момент, ИИ остается мощным и все же неразумным помощником.
Какие темы, связанные с искусственным интеллектом, вы хотели бы видеть на нашем сайте в будущем? Как вы считаете, какие технологии ИИ будут самыми важными в ближайшие годы? Оставьте свои пожелания и мнения в комментариях!
