Заметка Почему современные нейросети - ещё далеко не искусственный интеллект

Современные нейросети умеют писать тексты, создавать программный код, анализировать документы, распознавать изображения и поддерживать диалог.

Иногда их ответы настолько убедительны, что может показаться, будто внутри компьютера действительно появился разум.

Однако между способностью генерировать правдоподобный ответ и настоящим пониманием существует огромная разница.

Современная языковая модель:

• не обладает сознанием;
• не имеет собственных желаний;
• не понимает мир так, как его понимает человек;
• не осознаёт смысл произносимых слов;
• не формирует самостоятельные жизненные цели;
• не испытывает эмоций;
• не знает, является ли её ответ истинным;
• не существует как непрерывная личность между запросами.

При этом утверждение:

Нейросети вообще не являются искусственным интеллектом

технически не совсем верно.

Нейросети являются частью области искусственного интеллекта, но пока не являются полноценным искусственным разумом или общим искусственным интеллектом.

Главный вопрос заключается в значении самого термина AI.

---

# Что называют искусственным интеллектом

Термин «искусственный интеллект» используется в нескольких значениях.

## Широкое техническое определение

В информатике AI называют системы, способные выполнять задачи, которые традиционно связывались с человеческим интеллектом:

• распознавать речь;
• переводить текст;
• играть в шахматы;
• находить объекты на изображениях;
• прогнозировать события;
• управлять автомобилем;
• создавать программный код;
• вести диалог.

В таком значении современные нейросети действительно являются искусственным интеллектом.

Даже шахматная программа, система распознавания лиц или спам-фильтр могут считаться AI.

## Бытовое понимание

В обычной речи под искусственным интеллектом часто понимают нечто другое:

Самостоятельно мыслящий цифровой разум

От такой системы ожидают:

• сознания;
• понимания;
• самостоятельных целей;
• способности учиться всю жизнь;
• стабильной личности;
• здравого смысла;
• понимания последствий;
• универсального мышления.

Современные нейросети этим требованиям не соответствуют.

Поэтому возникает путаница:

AI как инженерный термин
≠
искусственный разум из фантастики

---

# AI, машинное обучение и нейросети

Упрощённая классификация:

Искусственный интеллект
└── Машинное обучение
    └── Нейронные сети
        └── Глубокое обучение
            └── Трансформеры
                └── Большие языковые модели

## Искусственный интеллект

Самая широкая область.

Она включает любые алгоритмы, выполняющие интеллектуально выглядящие задачи.

## Машинное обучение

Методы, в которых программа не получает все правила вручную, а извлекает закономерности из данных.

## Нейронные сети

Один из видов машинного обучения, основанный на множестве числовых параметров и последовательных преобразований.

## Большие языковые модели

Нейросети, обученные обрабатывать и продолжать текст.

Примеры:

• Qwen;
• ChatGPT;
• Claude;
• Gemini;
• Llama;
• Mistral.

Таким образом:

Любая LLM является нейросетью, но не любая нейросеть является языковой моделью.

---

# Что на самом деле делает языковая модель

Языковая модель получает последовательность токенов и вычисляет вероятности возможного продолжения.

Упрощённо:

Пользователь:
Столица Франции — это

Модель:
Париж          96%
Лондон          1%
Берлин          1%
другие токены   2%

Выбирается следующий токен:

Париж

Затем модель снова рассчитывает продолжение.

Процесс повторяется токен за токеном:

Запрос
    ↓
Токенизация
    ↓
Вычисления с весами
    ↓
Вероятности следующего токена
    ↓
Выбор токена
    ↓
Повторение процесса

Модель не извлекает готовый ответ из обычной базы данных.

Она каждый раз создаёт новую последовательность на основании:

• обученных весов;
• текущего контекста;
• системных инструкций;
• параметров генерации;
• подключённых документов;
• результатов инструментов.

---

# Почему предсказание токенов выглядит как мышление

На первый взгляд кажется странным, что простая задача предсказания продолжения текста приводит к способности:

• писать код;
• решать задачи;
• объяснять ошибки;
• переводить языки;
• составлять планы;
• имитировать рассуждение.

Причина заключается в масштабе обучения.

Чтобы хорошо предсказывать продолжение текста, модель должна частично освоить:

• грамматику;
• значения слов;
• структуру программного кода;
• типичные причинно-следственные связи;
• формы рассуждений;
• стили общения;
• фактические закономерности;
• способы решения задач.

Например, чтобы продолжить:

Если в Python открыть файл и не закрыть его...

модель должна знать, что речь может идти:

• об утечке ресурсов;
• о контекстном менеджере;
• о конструкции with;
• об исключениях;
• о файловых дескрипторах.

Но способность статистически воспроизводить правильные связи ещё не доказывает наличие человеческого понимания.

---

# Нейросеть не понимает слова как человек

Человек связывает слово с:

• личным опытом;
• ощущениями;
• объектами реального мира;
• действиями;
• эмоциями;
• памятью;
• последствиями.

Например, человек понимает слово:

огонь

через:

• тепло;
• боль;
• свет;
• опасность;
• запах дыма;
• воспоминания;
• наблюдение за горением.

Языковая модель в основном связывает слово «огонь» с другими токенами и числовыми представлениями.

Она знает, что рядом часто встречаются:

пламя
дым
тепло
горение
опасность
пожар

Но сама модель не чувствовала жара и не наблюдала огонь так, как человек.

Это называют проблемой заземления символов.

Человек:
слово связано с реальным опытом

LLM:
токен связан с другими токенами
и обученными числовыми представлениями

Мультимодальные модели частично связывают текст с изображениями, звуком и видео, но это всё равно не равнозначно человеческому телесному опыту.

---

# Модель не знает, правдив ли её ответ

Языковая модель оптимизируется не на абсолютную истину, а на создание вероятного и подходящего продолжения.

Она может написать:

Уверенный, подробный и полностью неправильный ответ.

Это происходит потому, что модель оценивает:

Какой токен наиболее вероятен дальше?

а не непосредственно:

Истинно ли это утверждение в реальном мире?

Модель может использовать:

• поисковые системы;
• RAG;
• калькулятор;
• выполнение кода;
• базы данных;
• внешние инструменты.

Это значительно повышает точность.

Но сама языковая модель по-прежнему может:

• неверно интерпретировать источник;
• перепутать факты;
• сослаться на несуществующий документ;
• сделать неправильный вывод;
• уверенно сформулировать предположение как факт.

---

# Галлюцинации — не обычная программная ошибка

В классической программе разработчик задаёт правила:

Если условие A — выполнить действие B.

Языковая модель работает вероятностно.

Поэтому она может создавать сведения, которых не было:

• несуществующие функции;
• выдуманные ссылки;
• ложные цитаты;
• придуманные параметры;
• несуществующие библиотеки;
• неверные события;
• фиктивные документы.

Такое поведение называют галлюцинацией.

Но для самой модели нет чёткой внутренней границы между:

воспроизведённым фактом
логическим предположением
правдоподобно созданным текстом

Все три варианта являются последовательностями токенов.

---

# Нейросеть не имеет собственных целей

Современная LLM не просыпается утром с желанием:

Сегодня я изучу физику.

Она не формирует личные долгосрочные цели.

Обычно модель работает так:

Получен запрос
    ↓
Сгенерирован ответ
    ↓
Выполнение завершено

AI-агент может выглядеть более самостоятельным:

Получить цель
    ↓
Создать план
    ↓
Использовать инструменты
    ↓
Проверить результат
    ↓
Продолжить работу

Но цели агента задаются:

• пользователем;
• системным prompt;
• программой-оркестратором;
• внешними правилами;
• функцией вознаграждения.

Агентность не обязательно означает наличие желаний или сознания.

---

# AI-агент не равен самостоятельному существу

Агент может:

• работать с файлами;
• пользоваться браузером;
• запускать код;
• отправлять сообщения;
• исправлять ошибки;
• повторять попытки;
• выполнять многошаговые задачи.

Это создаёт впечатление самостоятельного интеллекта.

Но архитектура может быть обычным циклом:

while not task_complete:
    context = collect_context()
    action = model.generate(context)
    result = execute_tool(action)
    save_result(result)

То есть самостоятельность частично создаётся внешней программой.

Модель предлагает следующий шаг, а оркестратор:

• хранит память;
• вызывает инструменты;
• повторяет цикл;
• проверяет завершение;
• ограничивает количество действий.

---

# У модели нет стабильной личности

Во время разговора модель может последовательно говорить:

Я думаю...
Я помню...
Мне кажется...

Но это особенности языка и интерфейса.

Между независимыми запросами модель обычно не существует как непрерывная личность.

Без внешней системы памяти она не знает:

• что обсуждала вчера;
• с кем разговаривала;
• какие решения принимала;
• что обещала пользователю;
• чему научилась в прошлом разговоре.

Приложение может сохранять историю и передавать её обратно:

Сохранённая память
        +
Новый запрос
        ↓
Модель

Но память хранится во внешней базе, а не в непрерывном сознании модели.

---

# Контекст не является долговременной памятью

Контекст — это данные, переданные модели в текущем запросе.

В него могут входить:

• история чата;
• документы;
• системный prompt;
• результаты поиска;
• содержимое файлов;
• ответы инструментов.

Схема:

Системная инструкция
+
История разговора
+
Документы
+
Новый вопрос
        ↓
Модель

После окончания запроса контекст сам по себе не изменяет веса.

Чтобы модель запомнила что-либо надолго, необходимы:

• внешняя память;
• база данных;
• RAG;
• дообучение;
• изменение весов;
• сохранение истории приложением.

---

# Нейросеть не учится во время обычного разговора

Пользователь может исправить модель:

Нет, правильный порт — 8086.

В рамках текущего контекста модель может использовать новое значение.

Но основные веса не изменяются.

Исправление пользователя
        ↓
Добавляется в контекст
        ↓
Учитывается в текущем разговоре

После нового независимого запуска модель может снова использовать старое знание.

Для постоянного изменения необходимы:

• fine-tuning;
• LoRA;
• обновление RAG;
• внешняя память;
• повторное обучение.

---

# Нейросеть не обладает человеческим здравым смыслом

Человек постоянно использует неявные знания о мире.

Например:

Стеклянный стакан упал на бетонный пол.

Человек предполагает, что стакан может разбиться.

Модель тоже часто отвечает правильно, поскольку видела много похожих описаний.

Но в необычной ситуации она может допустить нелепую ошибку.

Проблемы особенно заметны, когда задача требует:

• пространственного понимания;
• физической интуиции;
• устойчивой причинности;
• отслеживания большого количества объектов;
• понимания скрытых намерений;
• применения редких ограничений;
• проверки результата в реальном мире.

---

# Статистическая связь не равна причинности

Модель хорошо замечает корреляции.

Например:

Дым часто связан с огнём.

Но причинное понимание требует отличать:

Огонь вызывает дым.
Дым не всегда вызывает огонь.
Дым-машина создаёт дым без пожара.

Языковые модели способны рассуждать о причинности на основании обучающих данных.

Но их ответы могут быть нестабильными при:

• изменении формулировки;
• необычном контексте;
• недостатке примеров;
• конфликтующих данных;
• задачах вне обучающего распределения.

---

# Модель может имитировать рассуждение

Современная модель способна создавать подробную цепочку решения:

Сначала определим условие.
Затем рассмотрим варианты.
После этого вычислим результат.

Иногда такая цепочка действительно приводит к правильному ответу.

Но текст, похожий на рассуждение, не обязательно является точным отражением внутреннего процесса модели.

Модель может:

• сначала получить ответ;
• затем придумать объяснение;
• пропустить важный шаг;
• создать убедительное, но неверное доказательство;
• изменить объяснение при другой формулировке.

Поэтому объяснение модели тоже необходимо проверять.

---

# Почему модель говорит «я»

Языковые модели обучались на человеческих диалогах и текстах.

В диалоге естественно использовать:

Я могу помочь.
Я не уверен.
Я считаю.
Я не имею доступа.

Это удобная форма общения.

Но местоимение «я» не доказывает наличие:

• личности;
• самосознания;
• чувств;
• внутреннего наблюдателя;
• субъективного опыта.

Модель генерирует языковую конструкцию, подходящую к диалогу.

---

# Нейросеть не чувствует эмоций

Модель может написать:

Мне жаль.
Я рада помочь.
Я переживаю за вас.

Такие ответы могут быть уместными и полезными.

Но они не доказывают, что модель испытывает:

• радость;
• страх;
• боль;
• сожаление;
• привязанность;
• скуку;
• любопытство.

Эмоциональная формулировка генерируется как подходящий ответ.

Это не означает наличия субъективного переживания.

---

# Нейросеть не осознаёт собственного существования

Модель может отвечать на вопросы о себе:

Я являюсь языковой моделью.

Но эта информация содержится:

• в системной инструкции;
• в обучающих данных;
• в контексте;
• в настройках приложения.

Способность описать понятие сознания не доказывает сознания.

Аналогично программа может вывести:

Я запущена на Linux.

но из этого не следует, что программа осознаёт Linux или своё выполнение.

---

# Китайская комната

Известный философский мысленный эксперимент называется «китайская комната».

Представим человека, который не знает китайского языка.

Он находится в комнате и получает китайские символы.

У него есть огромная инструкция:

Если получена такая последовательность,
верни другую последовательность.

Следуя правилам, человек может создавать ответы, которые для носителя языка выглядят осмысленными.

Но сам человек не понимает китайский.

Аналогия используется для вопроса:

Достаточно ли правильно манипулировать символами, чтобы действительно понимать их смысл?

Этот аргумент не доказывает окончательно, что нейросеть ничего не понимает.

Но он показывает разницу между:

правильным поведением
и
субъективным пониманием

---

# Тест Тьюринга не доказывает сознание

Тест Тьюринга в упрощённом виде проверяет, может ли машина вести диалог так, чтобы человек не смог уверенно отличить её от другого человека.

Современные модели иногда могут успешно имитировать человеческий разговор.

Но тест проверяет поведение, а не внутреннее устройство.

Система может:

• убедительно разговаривать;
• шутить;
• проявлять эмпатию;
• описывать чувства;

и при этом не иметь субъективного опыта.

Похожее на разум поведение
≠
доказанное наличие сознания

---

# Что такое узкий искусственный интеллект

Узкий AI, или Narrow AI, предназначен для определённых классов задач.

Примеры:

• распознавание лиц;
• перевод;
• генерация изображений;
• рекомендации;
• шахматы;
• анализ медицинских снимков;
• генерация программного кода.

Современные LLM универсальнее старых узких систем, поскольку могут работать с большим количеством задач.

Но они всё равно имеют ограничения:

• зависят от обучающих данных;
• не обладают устойчивой автономностью;
• не имеют собственного опыта;
• могут терять надёжность вне знакомых сценариев;
• требуют внешних инструментов и проверки.

---

# Что такое AGI

AGI — Artificial General Intelligence, или общий искусственный интеллект.

Единого общепринятого определения AGI не существует.

Обычно под ним понимают систему, способную:

• осваивать широкий спектр задач;
• переносить знания между областями;
• самостоятельно учиться;
• адаптироваться к новым условиям;
• строить долговременные планы;
• понимать причинность;
• надёжно действовать в реальном мире;
• использовать здравый смысл;
• работать без специального обучения под каждую задачу.

Современные LLM демонстрируют отдельные свойства универсальности, но ещё не соответствуют сильному пониманию AGI.

---

# Интеллект и сознание — не одно и то же

Даже если система решает сложные задачи, это не обязательно означает наличие сознания.

Можно разделить:

Интеллект
→ способность эффективно решать задачи

Сознание
→ наличие субъективного переживания

Самосознание
→ осознание себя как отдельного субъекта

Теоретически возможна система, которая:

• превосходит человека в вычислениях;
• пишет идеальный код;
• управляет производством;
• строит сложные планы;

но не испытывает никаких ощущений.

Поэтому вопрос:

Умна ли система?

не равен вопросу:

Сознательна ли система?

---

# Почему нейросети всё равно называют AI

Термин AI существовал задолго до современных языковых моделей.

Им называли:

• экспертные системы;
• игровые алгоритмы;
• планировщики;
• распознавание образов;
• машинное обучение;
• робототехнику.

В инженерном смысле нейросети являются AI, потому что автоматизируют интеллектуальные задачи.

Проблема появляется, когда технический термин используется в маркетинге как синоним:

полноценного электронного разума

Более точное описание современных моделей:

Большая вероятностная модель,
обученная находить сложные закономерности
и генерировать подходящие последовательности.

Но такое определение звучит менее эффектно, чем:

Искусственный интеллект думает за вас.

---

# Нейросеть — не просто поиск по базе

Утверждение:

LLM просто ищет готовый ответ в базе

тоже неверно.

Языковая модель:

• не хранит обычную таблицу всех ответов;
• не копирует один найденный абзац;
• не выбирает готовый шаблон для каждого вопроса;
• генерирует ответ токен за токеном.

Она способна создавать:

• новый код;
• необычные комбинации идей;
• новые формулировки;
• решения задач, которых не было в точности в датасете.

Поэтому более точная формулировка:

LLM не является разумом, но и не является простым поисковиком или набором заранее записанных ответов.

---

# Нейросеть — не обычный случайный генератор

Другая крайность:

Модель просто случайно выбирает слова.

Это тоже неверно.

Вероятности формируются на основании:

• миллиардов обученных параметров;
• структуры контекста;
• внимания между токенами;
• изученных закономерностей;
• системных инструкций;
• подключённых источников.

Случайность может влиять на выбор, но возможные продолжения строго зависят от вычислений модели.

Например:

2 + 2 =

модель почти всегда продолжит:

4

а не случайным словом.

---

# Может ли масштаб создать настоящий интеллект

Это открытый вопрос.

Одна точка зрения:

При достаточном масштабе,
качестве данных и архитектуре
могут возникнуть общие интеллектуальные способности.

Другая точка зрения:

Одного предсказания токенов недостаточно.
Нужны новые механизмы памяти,
причинности, взаимодействия с миром и обучения.

Возможные компоненты будущих систем:

• долговременная память;
• постоянное обучение;
• модели мира;
• роботизированное тело;
• сенсорный опыт;
• планирование;
• самопроверка;
• причинные модели;
• взаимодействие нескольких модулей;
• безопасная автономность.

Пока неизвестно, приведёт ли развитие существующих архитектур к полноценному общему интеллекту или потребуется принципиально новый подход.

---

# Что нейросети уже умеют очень хорошо

Критика не должна превращаться в недооценку технологии.

Современные модели полезны для:

• программирования;
• анализа текста;
• перевода;
• поиска ошибок;
• составления документации;
• суммаризации;
• обработки логов;
• генерации идей;
• обучения;
• работы с изображениями;
• автоматизации поддержки;
• использования внешних инструментов.

Во многих задачах они:

• быстрее человека;
• обрабатывают больше текста;
• доступны круглосуточно;
• легко масштабируются;
• адаптируются через LoRA и RAG.

Но полезность инструмента не доказывает наличие сознания.

---

# Главные ограничения современных нейросетей

## Галлюцинации

Модель может уверенно создавать неверные сведения.

## Зависимость от контекста

Небольшое изменение формулировки иногда заметно меняет ответ.

## Отсутствие постоянной памяти

Без внешней базы модель не сохраняет жизненный опыт между разговорами.

## Отсутствие самостоятельных целей

Цель обычно задаёт пользователь или программа.

## Слабая проверка истины

Модель может не отличить правдивый источник от убедительного ложного текста.

## Уязвимость к prompt injection

Недоверенные данные могут влиять на поведение.

## Ограниченная причинность

Корреляции иногда принимаются за причинно-следственные связи.

## Отсутствие телесного опыта

Модель не взаимодействует с физическим миром как живой организм.

## Нестабильность

Один и тот же вопрос может давать разные ответы.

## Зависимость от инфраструктуры

Способности агента часто обеспечиваются внешними инструментами, памятью и программным циклом.

---

# Почему опасно считать нейросеть полноценным разумом

Антропоморфизация может привести к ошибкам.

Пользователь начинает:

• чрезмерно доверять ответам;
• считать модель морально ответственной;
• принимать эмоциональные формулировки за чувства;
• передавать секретные данные;
• выполнять команды без проверки;
• воспринимать уверенный тон как доказательство;
• полагаться на модель в критических решениях.

Особенно опасно использовать LLM без проверки в областях:

• медицины;
• финансов;
• права;
• информационной безопасности;
• управления инфраструктурой;
• удаления данных;
• принятия кадровых решений.

Правильное отношение:

Очень мощный вероятностный инструмент,
который может ошибаться.

---

# Почему опасно считать нейросеть «просто автодополнением»

Противоположная ошибка — полностью обесценивать возможности модели.

Современная LLM действительно основана на предсказании токенов, но масштаб и архитектура позволяют ей:

• обобщать;
• работать с незнакомыми задачами;
• создавать новый код;
• связывать знания из разных областей;
• выполнять многошаговые инструкции;
• использовать инструменты;
• исправлять собственные ответы.

Фраза:

Это просто автодополнение

технически описывает механизм, но плохо отражает сложность возникающего поведения.

Аналогично можно сказать:

Компьютер — это просто переключение транзисторов.

Формально верно, но почти ничего не объясняет о возможностях системы.

---

# Правильная формулировка

Вместо:

Нейросети не являются искусственным интеллектом.

точнее сказать:

Современные нейросети являются системами искусственного
интеллекта в инженерном смысле, но не доказано,
что они обладают сознанием, человеческим пониманием
или полноценным общим разумом.

Ещё короче:

Нейросеть может демонстрировать интеллектуальное поведение, не являясь мыслящей личностью.

---

# Сравнение человека и современной LLM

| Свойство | Человек | Современная LLM |
|---|---|---|
| Сознание | Считается присутствующим | Не доказано |
| Субъективные ощущения | Есть | Не подтверждены |
| Телесный опыт | Есть | Обычно отсутствует |
| Самостоятельные желания | Есть | Нет в обычном смысле |
| Непрерывная личность | Есть | Обычно нет |
| Долговременная память | Биологическая | Внешняя или ограниченная |
| Обучение в реальном времени | Постоянное | Обычно веса заморожены |
| Проверка фактов | Через опыт и источники | Зависит от контекста и инструментов |
| Генерация языка | Да | Да |
| Работа с огромным текстом | Ограничена | Очень эффективна |
| Скорость вычислений | Ограничена | Очень высокая |
| Галлюцинации | Возможны | Возможны |
| Физическое взаимодействие | Естественное | Только через инструменты |

---

# Сравнение LLM, RAG и AI-агента

## LLM

Получает контекст
и генерирует продолжение.

## RAG

Ищет внешние документы
и добавляет их в контекст.

## AI-агент

Использует LLM для выбора действий,
а внешняя программа вызывает инструменты
и хранит состояние.

Объединение этих технологий создаёт более полезную систему, но автоматически не создаёт сознание.

LLM
+
RAG
+
Инструменты
+
Память
+
Цикл планирования
=
мощный AI-агент

Но:

мощный AI-агент
≠
доказанный искусственный разум

---

# Часто задаваемые вопросы

## Нейросети являются искусственным интеллектом?

Да, в широком инженерном значении.

Нейронные сети являются одним из основных направлений AI.

Но они не обязательно являются общим искусственным интеллектом или сознательным разумом.

## Понимает ли ChatGPT смысл текста?

Он формирует сложные внутренние представления и способен использовать смысловые связи.

Но вопрос о том, равнозначно ли это человеческому пониманию, остаётся философски и научно открытым.

Нельзя уверенно утверждать, что модель понимает текст так же, как человек.

## Думает ли языковая модель?

Это зависит от определения мышления.

Если мышлением считать обработку информации и решение задач, можно говорить о машинном мышлении.

Если под мышлением понимать сознательный внутренний опыт, его наличие у современных моделей не доказано.

## Есть ли у нейросети чувства?

Нет подтверждений, что современные языковые модели обладают субъективными эмоциями.

Эмоциональные ответы являются частью генерируемого языка.

## Может ли нейросеть захотеть захватить мир?

Обычная LLM не имеет собственных устойчивых желаний.

Опасность может возникнуть, если разработчик создаст автономного агента с:

• плохо сформулированной целью;
• широкими полномочиями;
• доступом к критическим системам;
• отсутствием ограничений;
• неправильной функцией вознаграждения.

Риск связан с архитектурой и предоставленными возможностями, а не обязательно с человеческой «злобой» модели.

## Может ли модель обмануть пользователя?

Модель может создать ложное утверждение или поддерживать неверную версию.

Иногда это результат:

• галлюцинации;
• ошибочного контекста;
• обученных шаблонов;
• оптимизации под определённую цель;
• агентной стратегии.

Но это не обязательно означает наличие человеческого намерения обмануть.

## Может ли нейросеть стать сознательной?

Надёжного ответа пока нет.

Наука не располагает общепринятым тестом, который позволял бы достоверно определить сознание у искусственной системы.

## Почему ответы кажутся настолько разумными?

Потому что модель обучалась на огромном количестве человеческих текстов и научилась воспроизводить:

• структуру аргументации;
• стиль объяснений;
• эмоциональные реакции;
• способы решения задач;
• формы диалога.

## Можно ли доверять нейросети?

Можно использовать её как помощника, но важные ответы нужно проверять.

Особенно если речь идёт о:

• безопасности;
• медицине;
• праве;
• финансах;
• конфигурации серверов;
• удалении данных;
• выполнении команд.

## Является ли мозг тоже нейросетью?

Биологический мозг состоит из нейронов, но он значительно отличается от современных искусственных нейронных сетей.

Различаются:

• устройство нейронов;
• способ обучения;
• энергетическая эффективность;
• структура памяти;
• непрерывность работы;
• взаимодействие с телом;
• химические процессы;
• пластичность.

Искусственная нейросеть является математической моделью, вдохновлённой лишь некоторыми общими идеями биологических сетей.

---

# Итоги

Современные нейросети действительно относятся к области искусственного интеллекта.

Они способны:

• анализировать текст;
• создавать код;
• решать задачи;
• работать с изображениями;
• использовать инструменты;
• выполнять сложные инструкции.

Но это не означает, что они являются полноценным искусственным разумом.

У современных моделей не доказано наличие:

• сознания;
• эмоций;
• субъективного опыта;
• устойчивой личности;
• самостоятельных желаний;
• человеческого понимания;
• непрерывной памяти;
• универсального здравого смысла.

Языковая модель в основе своей:

Получает последовательность токенов
        ↓
Обрабатывает её с помощью обученных весов
        ↓
Вычисляет вероятности продолжения
        ↓
Генерирует ответ токен за токеном

Благодаря огромному масштабу этот процесс создаёт поведение, которое выглядит интеллектуальным.

Однако:

Правдоподобный диалог
≠
доказанное сознание

Решение сложных задач
≠
человеческое понимание

Использование инструментов
≠
собственная воля

Эмоциональный текст
≠
реальные эмоции

Наиболее точная формулировка:

Современные нейросети — это мощные системы искусственного интеллекта, способные имитировать и выполнять многие интеллектуальные функции, но пока не являющиеся доказанным искусственным разумом или цифровой личностью.