Александр Шефер

Открыт для проектов

Обсудить проект

Открыт для проектов

Направление

Быстрый контакт

demoNDA

Ассистент маршрутизации обращений

Корректная маршрутизация обращений при нулевой автономии в клинических решениях

Система разбирает входящие обращения пациентов и направляет их в нужную службу. Ни одно клиническое решение не принимается автоматически — задача агента заканчивается там, где начинается медицина.

Клиент
Под NDA
Отрасль
Здравоохранение
Роль
Консультант по архитектуре и надёжности
Год
2024
Услуги
AI-агенты, Evals и надёжность, Интеграции

01

Контекст

Организация получала большой поток обращений через несколько каналов. Обращения попадали не в те службы, и часть времени сотрудников уходила на пересылку между отделами. Детали заказчика и точные объёмы не раскрываются по условиям NDA.

02

Проблема

Область, где ошибка стоит несопоставимо дороже экономии времени. Любая формулировка, которую пациент мог бы принять за медицинскую рекомендацию, была недопустима. Требовалось решение, которое ускоряет маршрутизацию и при этом архитектурно неспособно давать клинические советы.

03

Решение

Агенту оставлена ровно одна задача: определить службу и приоритет. Он не формулирует ответ пациенту и не имеет инструмента, которым мог бы это сделать. Признаки срочности обрабатываются детерминированными правилами поверх вывода модели: совпадение с любым из них немедленно поднимает приоритет и выводит обращение к дежурному сотруднику, независимо от того, что решила модель. Все ответы пациентам пишут люди.

04

Как работает

  1. Приём обращения

    Обращения из нескольких каналов приводятся к единому формату.

  2. Определение службы

    Агент выбирает подразделение из фиксированного справочника. Свободных формулировок нет — только выбор из списка.

  3. Детерминированная проверка срочности

    Правила, написанные и утверждённые медицинскими специалистами, работают поверх решения модели и имеют приоритет над ним.

  4. Передача человеку

    Сотрудник получает обращение с предложенной службой и приоритетом. Решение и ответ — всегда за человеком.

  5. Разбор расхождений

    Каждое изменение маршрута сотрудником фиксируется и еженедельно разбирается с профильными специалистами.

05

Интеграции

  • Внутренняя шина сообщений
  • Система учёта обращений заказчика
  • Мониторинг и алертинг

06

Надёжность

Что сделано, чтобы система вела себя предсказуемо в эксплуатации, а не только на демонстрации.

  • Нулевая автономия в клинических вопросах: у агента нет инструмента для ответа пациенту
  • Выбор только из закрытого справочника служб — генерация свободного текста в этой роли отключена
  • Детерминированные правила срочности имеют приоритет над решением модели и покрыты тестами
  • Отказ модели не останавливает процесс: обращение уходит в общую очередь с обычным приоритетом
  • Полный аудит решений и всех изменений маршрута сотрудниками
  • Персональные и медицинские данные не покидают контур заказчика и не попадают в логи
  • Регулярный разбор расхождений с профильными специалистами как часть регламента, а не разовая приёмка

07

Результат

  • сокращение более чем вдвое

    Обращения, изменившие маршрут вручную

    Относительное сравнение до и после внедрения. Абсолютные значения не раскрываются по условиям NDA.

  • ноль на регрессионном наборе

    Пропущенные признаки срочности

    Набор размечен медицинскими специалистами заказчика, прогоняется на каждый релиз. Состав набора не раскрывается.

08

Моя роль

  • Модель рисков, границы автономии агента и архитектура надёжности — лично
  • Слой детерминированных правил срочности — лично, содержание правил — медицинские специалисты заказчика
  • Разработка и эксплуатация — внутренняя команда заказчика

09

Стек

  • Python
  • Claude
  • PostgreSQL
  • Kafka
  • OpenTelemetry

Следующий проект

Лендинг для запуска B2B-продукта

Заявок с той же рекламы вдвое больше при вдвое меньшей цене лида