Сначала чужие цифры, потому что они убедительнее наших

Казанская стоматология на четыре кресла. Вложили в рекламу 874 тысячи рублей, за десять месяцев получили 22,5 миллиона выручки. Что сделали: поставили сквозную аналитику, переобучили администраторов и занялись входящими звонками. Конверсия звонка в запись выросла с 30 до 67 процентов — из 238 звонков стало 161 записавшихся вместо 71. Средний чек 168 тысяч.

Второй пример, из другого кейса. Разработчик медицинской системы опубликовал результаты двух клиник, тоже на четыре кресла: у одной выручка выросла на 30 процентов, это 7,2 миллиона рублей в год, у другой — на 15 процентов, это 8,6 миллиона в год.

Сразу оговорка, без которой эти числа вредны: это чужие результаты в чужих условиях, а не гарантия. Но они показывают порядок величин. Речь не о процентах экономии на бумаге, а о миллионах, которые уже лежат внутри бизнеса и утекают через дырки.

Где ИИ действительно забирает деньги с пола

**Приём обращений.** Разговор с понятным сценарием машина ведёт нормально: записать на свободное время, назвать адрес и часы, перезвонить по пропущенному. Это самая прямая выгода, потому что по данным UIS по 2 694 клиникам 94 процента обращений приходят звонком. Занятая линия — не неудобство, а убыток в деньгах.

**Работа с текстом и документами.** Разобрать входящий документ, найти нужные пункты, свести выписку, подготовить черновик письма. Экономит часы, и ошибка не фатальна: результат всё равно читает человек.

**Черновая работа в контенте и разработке.** Первый вариант текста, разметка, типовой код, картинка к материалу. Ключевое слово — черновая. Без проверки это публиковать нельзя.

Где ИИ не работает, сколько бы за него не заплатили

**Решения, за которые кто-то отвечает.** Диагноз, отказ клиенту, цена сделки, увольнение. Дело не в качестве модели. Ответственность нельзя передать программе: там, где есть последствия, нужна подпись человека.

**Точные расчёты.** Модель убедительно ошибается в арифметике. Считать должен код или калькулятор, а ИИ — объяснять результат.

**Всё, что потом предъявят.** Цифра в отчёте, норма закона, ссылка на источник. Модель придумает отсутствующее тем же уверенным тоном, что и настоящее. Лечится это не формулировкой запроса, а проверкой в коде.

Что мы сделали у себя и чем это кончилось

Голосовой администратор принимает звонки и ведёт запись — работающий продукт.

Медицинская система «Дентарис»: внедрение идёт, в промышленной эксплуатации пока нет. ИИ там помогает с рутиной, но карту пациента ведёт врач, и так должно быть.

Сайты и контент собираем с участием моделей, но между моделью и публикацией стоят три проверки: правовая, сверка цифр с источниками и проверка на повтор. Поставили мы их не из осторожности — по факту: первые же тексты содержали цифры и утверждения, которых во входных данных не было.

С чего начинать, чтобы не выбросить деньги

Берите задачу, которая отвечает трём условиям: повторяется много раз, ошибка в ней стоит дешево, результат проверяется глазами. Приём типовых обращений, черновики текстов, разбор входящих документов — обычно это первые кандидаты.

И не начинайте с того, что решает судьбу клиента или больших денег. Цена одной ошибки там выше экономии за год.

Неприятный вывод

Мы проверили 4 515 сайтов стоматологий и увидели, что до искусственного интеллекта большинству мешает дойти кое-что гораздо более скучное: у 23,6 процента клиник нет способа записаться без звонка, у 41 процента не стоит даже счётчик посещений.

ИИ не починит того, чего нет. Если пациент не может записаться, а вы не видите, откуда он пришёл, никакая нейросеть этого не исправит — она лишь быстрее доведёт до вас пустоту.

Поэтому порядок такой: сначала закрыть вход и включить счёт, потом автоматизировать. В этой последовательности первые деньги появляются уже в первый месяц, и дальше есть что улучшать.

Начать можно с одной проверки сегодня: откройте свой сайт с телефона и попробуйте записаться, не набирая номер. Что произошло — то и видит ваш пациент.

Текст при этом получился хороший: ровный, уверенный, без единой корявой фразы. Именно поэтому ошибки в нём легко пропустить.

Почему ошибка нейросети не похожа на ошибку

Мы ждали от модели корявых фраз, повторов, странных оборотов. Такое правится за минуту, и читатель это всё равно бы заметил.

Вышло иначе. Ошибки в тексте модели звучат так же уверенно, как правда. Выдуманный факт стоит в той же интонации, что и настоящий. Вычитка на стиль его не находит, потому что со стилем там всё в порядке.

Что именно модель дописала сама

Три вещи. Фразу о том, скольким клиникам мы якобы помогли. Конкретную сумму штрафа. И уголовное дело за утечку данных пациентов.

Ничего этого мы модели не давали. Она дописала это потому, что в похожих текстах обычно так пишут, и звучит правдоподобно. Модель не врёт нарочно. Она достраивает текст до привычного вида.

Первая мысль была очевидная: добавить в задание «пожалуйста, не выдумывай». Не сработало бы. Это всё равно что просить автора самому себя отредактировать. Поэтому проверки мы перенесли из просьбы к модели в код.

Проверка первая: каждое число должно иметь источник

Из готового текста вынимаются все числа. Каждое ищется в исходных данных, которые получила модель. Нет числа в источнике — текст уходит в брак, как бы убедительно это число ни звучало.

На этом же шаге ловятся ещё две вещи. Первая — недозаполненные заготовки: места, куда собирались что-то подставить, но забыли. Вторая — утверждения о нашем опыте, которых мы сами не заявляли.

Проверка вторая: закон и площадка

На некоторых площадках по закону нельзя размещать рекламу. Для них из текста вырезаются продающие признаки: цены, скидки, призывы купить.

Для медицины правила строже. Убираются обещания результата лечения и формулировки превосходства вроде «лучшая клиника». Модель вставляет их охотно: в рекламных текстах, на которых она училась, таких фраз полно.

Проверка третья: не повторяемся ли мы

Сначала мы сравнивали новые тексты со старыми по словам. Метрика говорила: всё уникально. Потом мы перечитали подряд шесть постов и увидели, что все они пересказывают одну мысль. Разными словами, поэтому сравнение по словам их и пропустило.

Пришлось сравнивать по смыслу. Из нового текста вынимаются утверждения и сверяются с тем, что уже выходило. Два совпадения — текст в брак. Читатель не обязан второй раз читать то, что уже читал.

Где все три проверки бессильны

Самый дорогой урок мы получили не от модели, а от себя. Однажды мы сами записали в исходные данные наблюдения, которых на деле не делали. Фильтр их пропустил. Сработал он правильно: сверил текст с источником, и всё совпало. Неверным был сам источник.

Проверка сверяет текст с тем, что ей дали. Отличить правду от неправды в исходнике она не может. Если ошибка в источнике, фильтр пропустит её с чистой совестью.

Что из этого можно взять себе

Если вы уже пишете тексты для клиники с помощью нейросети, вот короткий порядок действий.

Сначала источник. Соберите, что вы знаете точно: услуги, факты, цифры из своих отчётов. Модель должна писать только из этого.

Потом числа. Каждую цифру в готовом тексте проверьте по источнику. Не нашли — убирайте, даже если она выглядит разумно.

Потом обещания. Для медицинской темы вычеркните всё, что обещает результат или ставит вас выше других.

Вывод

Нейросеть пишет быстро и гладко, и проверять её текст нужно отдельно. Проверку можно и нужно автоматизировать: числа, заготовки, юридические признаки, повторы. Но первую проверку автоматизировать нельзя. Человек смотрит, верен ли источник, и только потом кто-то смотрит на текст.

Так мы работаем со своими текстами. Так же подходим к сайтам клиник и ИИ-решениям, которые делаем для бизнеса: сначала проверяем, на каких данных всё стоит.

Как мы считали

ОРДО провело отраслевой замер сайтов стоматологий. Смотрели не только то, что видит посетитель, но и техническую часть — что стоит в коде страниц.

Наличие счётчика — самый простой параметр в этом списке. Он либо установлен, либо нет. Трактовать тут нечего, поэтому этой цифре можно доверять больше, чем любой оценке «на глаз».

Что показала цифра

Счётчика нет у 41 % сайтов. Это не единичные забытые страницы, а заметная доля ниши.

Сам по себе сайт без Метрики работает: открывается, показывает цены, принимает заявки. Проблема не видна снаружи. Её замечают, только когда пытаются ответить на простой вопрос: какой канал привёл пациента.

Почему это важнее, чем кажется

Метрика — это память сайта. Нет счётчика — нет истории визитов.

Задним числом эту историю не восстановить. Если поставить счётчик сегодня, данные пойдут с сегодняшнего дня. Всё, что было раньше, потеряно без вариантов.

При этом расходы идут своим чередом: контекстная реклама, продвижение, карты, агрегаторы. Бюджет списывается каждый месяц. А отчёта о том, что из этого сработало, нет — ни точного, ни приблизительного.

Где на самом деле затык

Установка счётчика занимает около десяти минут и ничего не стоит. Так что дело не в деньгах и не в сложности.

Сложность в другом: одна Метрика показывает посещения, а не пациентов. Чтобы увидеть, какой источник даёт записи, нужно связать обращение с каналом. Для этого:

• форма записи на сайте передаёт в Метрику цель при каждой отправке;
• звонки попадают в отчёт по источникам — это делается через телефонию с подменными номерами.

Этот второй шаг легко отложить. Счётчик стоит, галочка поставлена, а связи между заявкой и рекламой как не было, так и нет.

Что сделать, если вы узнали себя

Сначала проверьте, есть ли счётчик на вашем сайте и есть ли у вас к нему доступ. Если ответ «нет» на любой из вопросов — вы в тех самых 41 %.

Дальше порядок такой:

• установить Метрику;
• завести цель на отправку формы записи и убедиться, что она срабатывает;
• пока подменных номеров нет, фиксировать источник каждого звонка вручную.

Ручной учёт выглядит несерьёзно, но он лучше пустоты. Даже простая таблица у администратора даёт больше, чем ощущения.

Вывод

Замер показал не нехватку рекламного бюджета, а нехватку учёта. Деньги в рекламу вкладываются, а измерять результат нечем.

Исправляется это без затрат и без подрядчиков. Главное — не останавливаться на установке счётчика, а довести цепочку до заявки. Тогда через месяц решения о рекламе будут опираться на отчёт, а не на догадки.

Контекст: вопрос не про моду

Поставщики добавляют «ИИ» почти в любое описание. Владельцу клиники от этого не легче. Ему нужно понять две вещи: что можно подключить у себя без лишних рисков и за какой чертой начинается регулирование.

Черта уже проведена. Её описал Росздравнадзор в информационном письме от 13.02.2020 № 02И-297/20.

Четыре условия — и все сразу

По письму программа становится медицинским изделием, когда совпадают четыре признака:

• это программа для ЭВМ или её модули;
• она не входит в состав другого медизделия;
• производитель предназначил её для оказания медицинской помощи;
• она в автоматическом режиме интерпретирует данные, в том числе с помощью ИИ, и это влияет на клинические решения.

Нет хотя бы одного — нет и медизделия. На практике всё решает последний пункт. Если программа сама делает вывод из данных пациента и этот вывод доходит до врача, это уже другой класс продукта.

Что не так в типичном разговоре с поставщиком

Обычно обсуждают интерфейс, цену и сроки внедрения. Вопрос о том, трактует ли система клинические данные, часто не звучит вовсе. А от ответа зависит, нужен ли продукту регистрационный документ.

То же письмо перечисляет, что медизделием не считается:

• административные системы клиники;
• МИС, лабораторные системы и электронные медкарты, пока в них нет функции интерпретации;
• системы записи на приём;
• телемедицинские платформы для обмена сообщениями и документами.

Обратная сторона: системы поддержки врачебных решений, включая построенные на ИИ, почти всегда оказываются программными медизделиями. Для ПО с ИИ предусмотрен ещё и пострегистрационный мониторинг — ведомство анализирует отчёты о безопасности и клинической эффективности.

Что делать: один вопрос вместо долгой экспертизы

Перед покупкой спросите поставщика прямо: система интерпретирует данные автоматически? Результат влияет на решение врача?

Если оба ответа «да» — попросите регистрационное удостоверение.

Если «нет» — перед вами обычное ПО. Оценивайте его по-деловому: сколько рутины оно забирает у администратора и что показывает в отчётах.

Как это устроено у нас

ОРДО делает МИС «Дентарис» — календарь, картотека, планы лечения, аналитика источников — и голосового ИИ-администратора. Внедрение «Дентариса» идёт, в промышленной эксплуатации системы пока нет. Функции, которая сама трактует снимок, анализ или жалобу, в наших продуктах нет. Поэтому под критерии медизделия они не попадают.

Вывод

Слово «ИИ» в описании ничего не говорит о статусе продукта. Статус определяет функция: автоматическая интерпретация данных, которая влияет на лечение. То, что работает с обращениями, расписанием и отчётами, можно подключать уже сейчас. То, что подсказывает врачу решение, — только с регистрационным удостоверением.