Почему ИИ уверенно ошибается: курс о границах моделей — в Claude

Конспект курса официальной академии Claude на русском.

Первый опыт с ИИ у всех одинаковый: он за десять секунд пересказывает тяжёлый отчёт, а потом с тем же спокойным лицом придумывает ссылку на несуществующее исследование. Пока нет картины того, что происходит внутри, это выглядит случайностью. Курс академии на тринадцать уроков как раз собирает такую картину и делает её рабочей.

Кому он нужен

Всем, кто принимает решения по ответам модели: аналитикам, юристам, преподавателям, руководителям команд. Курс парный к базовому курсу о методе 4D: тот учит, что делать человеку, этот объясняет, на что человек реагирует.

Четыре свойства вместо магии

Всё поведение модели курс сводит к четырём свойствам, и каждое рассматривается как шкала от сильной стороны к ограничению.

• Предсказание следующего слова. Ответ собирается по кусочку, каждый раз выбирается наиболее правдоподобное продолжение. Отсюда сила на протоптанных дорожках (пересказ, переформатирование, черновик письма) и выдумки там, где правдоподобное и правдивое расходятся: точные цитаты, номера, ссылки, редкие факты.
• Знания. Модель знает то, что часто и согласованно встречалось в обучении. Массовые темы и популярные языки идут хорошо, узкое, свежее и спорное плохо. Лечится не уговорами, а источником: поиском, приложенным документом, подключённым сервисом.
• Рабочая память. Контекстное окно это всё, что модель видит прямо сейчас. Внимание внутри длинного текста распределено неровно, середина проседает, а новый чат не помнит прошлый. Отсюда практика: главное в начале, длинное резать на части, критичные условия повторять ближе к вопросу.
• Управляемость. Короткие проверяемые указания («таблицей», «до 100 слов», «только из приложенного файла») выполняются надёжно. Длинные цепочки рассуждений и абстрактные требования вроде «сделай убедительнее» плывут.

Самое полезное: когда свойства сталкиваются

В реальной задаче всегда работает не одно свойство, а несколько сразу. Проверка длинного договора одновременно давит на рабочую память и лезет в юридические тонкости, которых модель толком не знает.

Вместо общего «попробуй ещё раз» курс предлагает диагностику: назвать, какое свойство подвело, и применить точечное лекарство. Выдуманная цифра это знания и предсказание, значит нужен источник и запрет отвечать без него. Потерянное условие из середины это рабочая память, значит текст резать, а условие повторить. Проигнорированное требование это управляемость, значит переписать его в проверяемое.

С чего начать сегодня

Возьмите последний ответ, который вас удивил, и подпишите к нему одно слово из четырёх. Дальше добавьте в свои частые запросы две строчки: «используй только приложенные документы» и «отметь то, в чём не уверен». Это самый дешёвый способ увидеть границу до того, как вы отправите результат клиенту.

Где купить Claude

Курс бесплатный, подписка из России картой не оплачивается. У нас в каталоге Claude Pro (2 090 ₽/мес), Max (от 11 010 ₽/мес) и пополнение API от $20: оплата картой РФ или СБП, поддержка на русском.