Выбрать свой курс

Как работает AI и почему он уверенно ошибается.

Все вокруг говорят про AI, а спросить, как он вообще работает, уже как-то неловко. Давайте разберемся с самого начала: спокойно, без формул и без «это же очевидно».

Урок 1 из 715 минутничего не нужно устанавливать

Что такое модель

Знаете это чувство, когда на созвоне кто-то говорит «ну, модель же галлюцинирует», все понимающе кивают, и вы тоже киваете, а сами записываете себе: потом загуглить? Если да, вы точно не одни. И хорошая новость: чтобы понимать, о чем речь, не нужно быть инженером. Достаточно одной картинки в голове, и сейчас мы ее соберем.

Внутри ChatGPT, Claude и других AI-чатов работает похожая штука. Ее называют модель, или LLM: large language model, большая языковая модель. Вот как она устроена, в три шага.

01 · сначала

Читает

Модель «читает» огромную библиотеку текстов. Столько, сколько ни один человек не прочитает за всю жизнь.

Книги, статьи, сайты, инструкции, форумы, код

02 · по ходу

Замечает

Она не заучивает тексты наизусть. Она замечает закономерности: какие слова обычно идут за какими, как строится письмо, как звучит вежливый отказ.

После «С уважением,» почти всегда идет имя

03 · когда вы пишете

Продолжает

Ваш вопрос для нее начало текста, а ответ становится продолжением, которое она дописывает кусочек за кусочком. Еще ее отдельно учили быть собеседником, поэтому на вопрос она отвечает, как человек в переписке.

«Придумай тему письма» → текст, который обычно идет после такой просьбы

Кусочек за кусочком. Строго говоря, модель читает и пишет кусочками, их называют токенами. Токен это просто кусочек текста. Короткое слово бывает одним токеном, длинное режется на несколько кусочков, а запятая часто идет отдельно. Примерно так модель видит начало фразы:

Нарезка условная: у каждой модели она своя. Русские слова обычно режутся мельче английских.

Зачем вам это знать? В токенах считают, сколько текста модель удерживает за раз и сколько стоит работа с ней. Так что когда на созвоне скажут «отчет не влезает по токенам», вы будете точно знать, о чем речь.

Мне кажется, если запомнить из урока одну мысль, то пусть будет эта: модель не ищет правильный ответ в базе, она продолжает текст так, как он обычно продолжается. Отсюда и ее суперсилы, и ее странные ошибки.

Поиграйте в модель

Выберите фразу и нажимайте «Продолжить». Вы увидите, какие слова модель рассматривает, с какими шансами и какое в итоге выберет.

Упрощенная демонстрация · шансы примерные, для наглядности

Чтобы запустить новую фичу, продакту нужно сначала

Нажмите «Продолжить»: модель покажет несколько вариантов следующего слова и шансы каждого.

Здесь важно заметить две вещи. Первая: текст появляется по одному кусочку, и каждый следующий выбирается с оглядкой на все, что уже написано, включая ваш вопрос. Настоящая модель каждый раз выбирает из всего своего словаря кусочков, и делает это за доли секунды.

Вторая: она не всегда берет самый вероятный вариант. В выбор специально добавлена доля случайности, иначе ответы были бы одинаковыми и скучными. Поэтому на один и тот же вопрос вы каждый раз получаете немного разный ответ (и это нормально, ничего не сломалось).

Почему AI уверенно ошибается

Если вы нажали «С подвохом» в игре, вы это уже видели. Теперь разберем, почему так.

Галлюцинация: так называют ответ, который звучит гладко и убедительно, но на деле придуман. Цитата, которую никто не говорил. Исследование, которого не было. Функция, которой нет в вашем продукте.

Откуда она берется? Модель продолжает текст так, как он обычно продолжается. Если правильного ответа она не знает, продолжение все равно появится: складное, правдоподобное, в нужном тоне. Встроенной гарантии, что это правда, у нее нет.

И тон тут не подсказка. Правду и выдумку модель пишет одинаково уверенно. Новые модели ошибаются реже, многие чаты умеют искать в интернете и показывать источники, но совсем галлюцинации пока не исчезли.

Где сильная, а где неожиданно слабая

Как думаете, справится модель или нет? Нажмите на карточку, чтобы проверить.

Заметили закономерность? Все, что про «как обычно пишут» (тон, структура, варианты, черновики), дается ей легко. Все, где нужна точность или знания, которых не было в ее библиотеке, дается тяжело.

Тут помогает простое правило: все, что увидит клиент или руководитель, проверяем. Особенно цифры, имена, даты, ссылки и цитаты. Как текст за стажером: он может быть очень толковым, но вычитать все равно нужно.

Почему ответ зависит от вас

Модель прочитала очень много про мир вообще и ничего про вас. Про вашу компанию, продукт и вчерашний созвон она знает ровно столько, сколько вы ей написали.

Контекст это все, что модель видит прямо сейчас, в момент ответа. Что туда попадает:

Ваше сообщение

Вопрос или задача, которую вы написали. Его называют промпт, и от того, как он сформулирован, зависит очень многое.

Переписка в этом чате

Все, что было выше. Поэтому в новом чате модель «не помнит» старый разговор: она его просто не видит.

Файлы, картинки и найденное в интернете

Документ или скриншот, который вы приложили, и страницы, если чат сам сходил в поиск.

Память, если она включена

В некоторых чатах есть память: продукт сохраняет заметки о вас и сам подкладывает их в начало нового разговора. По факту это тоже контекст, просто сохраненный заранее.

А вот чего в контексте нет: вашей CRM, стратегии на квартал, вчерашнего созвона и всего, что «и так понятно». Для модели этого не существует, пока вы об этом не напишете. Поэтому на вопрос без контекста она отвечает «в среднем по больнице», так, чтобы подошло почти любому.

И еще одна деталь. Контекст не резиновый: модель удерживает за раз ограниченное число токенов. Этот предел называют окном контекста. Обычно он большой, но в очень длинном чате ранние сообщения могут потеряться. Если после долгой переписки ответы стали странными, иногда проще открыть новый чат и коротко пересказать главное.

Я часто вижу один и тот же сценарий разочарования в AI: человек пишет одну строчку, получает общий ответ и решает, что AI бесполезен. Хотя дело было в контексте. Это как сказать новому коллеге в первый день «сделай презентацию» и уйти. Сделает, конечно. Но не ту.

Модель и продукт

Claude, ChatGPT, Claude Code, Codex, Gemini... Названия похожи, и на созвонах их постоянно путают. Разница на самом деле простая.

Представьте двигатель и машину. Модель похожа на двигатель: та самая штука, которая продолжает текст. Продукт: машина вокруг него. Руль, кнопки, история чатов, память, поиск в интернете, загрузка файлов, тарифы.

Один двигатель может стоять в разных машинах. А в одну и ту же машину время от времени ставят двигатель поновее.

Модель · двигательПродукты на ее основе · машины
Claudeделает Anthropic

Claude.ai: чат в браузере и в приложении.

Claude Code: агент, который не только отвечает, но и сам выполняет задачи с файлами.

GPTделает OpenAI

ChatGPT: чат в браузере и в приложении.

Codex: агент для задач с кодом и файлами.

Geminiделает Google

Gemini: чат, который называется так же, как модель (отсюда и путаница).

Еще Gemini встроен в сервисы Google, например в почту и документы.

У моделей бывают версии: побольше и поумнее, поменьше и побыстрее. Например, у Claude это Opus, Sonnet и Haiku. Когда на созвоне говорят «мы перешли на Sonnet», речь именно про двигатель.

Почему это полезно различать? Когда коллега говорит «ChatGPT плохо пишет тексты», за этим может стоять что угодно: старая версия модели, бесплатный тариф или промпт в одну строчку. А Claude Code и Codex работают на моделях Claude и GPT, как и чаты. Просто продукт дал модели инструменты: она может сама открыть файлы и сделать несколько шагов подряд. Это уже агент, про него уроки 3 и 5.

Попробуйте за 5 минут

Прямо в браузере, в ChatGPT или Claude. Один и тот же вопрос дважды: сначала как есть, потом с контекстом. Каждый промпт отправьте в новом чате, чтобы первый разговор не подсказывал второй.

Шаг 1Без контекста

Придумай 5 идей, как вернуть пользователей, которые перестали заходить в приложение.

Шаг 2С контекстом: кто вы, для кого ответ, что важно

Можно оставить как есть или заменить продукт и детали на свои. Маркетологу подойдет начало «Я маркетолог в…».

Я продакт в приложении для изучения английского. Наши пользователи: взрослые 25–40 лет, занимаются с телефона по 10–15 минут, чаще всего по дороге на работу. Многие бросают занятия на второй-третьей неделе. Что важно: бюджета на рекламу нет, команда маленькая, за месяц успеем сделать одно-два изменения. Ответ нужен для встречи с руководителем, поэтому коротко и по делу. Придумай 5 идей, как вернуть пользователей, которые перестали заходить в приложение. Для каждой напиши: что сделать, почему это может сработать и как проверить за неделю. Если тебе не хватает информации, сначала задай мне вопросы.

Шаг 3Сравните два ответа

Насколько ответ про вас

Первый, скорее всего, подошел бы любому приложению на свете. Второй уже про ваших пользователей и их привычки.

Учтены ли ограничения

Вы написали, что бюджета на рекламу нет. Хороший ответ не предлагает запустить рекламу.

Задала ли модель вопросы

Мы прямо разрешили ей спросить, если чего-то не хватает. Часто именно эти вопросы показывают, что вы забыли рассказать.

Если хочется, повторите со своей настоящей задачей. Только без секретов: персональные данные клиентов и закрытые цифры компании в чат лучше не вставлять, пока вы не узнали, какие правила про AI действуют у вас в компании.

Слова из этого урока

Шесть слов, которые теперь не страшно услышать на созвоне. Подробнее про каждое и про остальные слова в словаре, это следующий урок.

Модель

Программа, которая прочитала огромную библиотеку текстов и научилась их продолжать. Claude, GPT и Gemini это семейства моделей (а ChatGPT и Claude на сайте это приложения, в которых они работают).

Какая модель стоит под капотом у этого сервиса?В словаре →
LLM

Large language model, большая языковая модель. По сути то же, что «модель» в этом курсе, просто звучит солиднее.

Там внутри обычная LLM, просто с хорошим промптомВ словаре →
Промпт

Ваше сообщение модели: вопрос, задача, инструкция. Чем понятнее промпт, тем ближе ответ к тому, что вам нужно.

Скинь промпт, которым ты делаешь описания карточекВ словаре →
Контекст

Все, что модель видит прямо сейчас: промпт, переписка в чате, файлы, память. Чего нет в контексте, того для модели не существует.

Он ответил мимо, потому что у него не было контекста про наш продуктВ словаре →
Токены

Кусочки слов, которыми модель читает и пишет. В токенах считают, сколько текста она удерживает за раз и сколько стоит работа с ней.

Этот отчет слишком длинный, не влезет по токенамВ словаре →
Галлюцинация

Гладкий и уверенный ответ, который на деле выдуман: несуществующая цитата, цифра или ссылка.

Проверь цифры в отчете, вдруг это галлюцинацияВ словаре →

Мини-тест

Три вопроса по уроку. Засчитывается первый ответ, а пояснение откроется у любого варианта. На сертификат это не влияет, это для себя.

1 из 3Какую из этих задач модель в чате, скорее всего, сделает лучше всего?

2 из 3Вы уже пару часов обсуждаете стратегию в одном чате, и модель начала путать то, о чем вы договорились в самом начале. Что сделать?

3 из 3Коллега спрашивает: «Claude в браузере и Claude Code это вообще разные AI?» Что ответить?

Дальше

Теперь вы знаете, как модель продолжает текст, почему иногда уверенно ошибается и зачем ей контекст. В следующем уроке соберем словарь: 25 слов, которые звучат на каждом созвоне, простыми словами.

Хотите попробовать агентов на настоящих задачах? Для этого есть курсы-симуляторы: вы работаете в выдуманной компании и решаете ее задачи вместе с Claude Code или Codex.