n1kita писал:
Диалог пометить для человека. Скрыть сообщение мало: фраза уже ушла в логи и к модели.
С этим согласен. Мне кажется, самое слабое место начинается сразу после пометки. Бот поступил правильно, флажок поставлен. Дальше диалог открывает живой человек, и часто у него нет никакого порядка действий, кроме здравого смысла.
У нас в конторе похожая сцена с бумагами повторяется каждые полгода. Помощница отправляет скан чужого паспорта в общий рабочий чат вместо личной переписки. Через минуту кто-то замечает, она удаляет сообщение, все облегчённо выдыхают и возвращаются к работе. Никто не спрашивает, сколько человек успели открыть файл, не сохранился ли он у кого-то в загрузках и нужно ли сообщить владельцу паспорта. Удалили, значит, решили. Хотя удаление касалось только одного окна.
С флажком в ИИ-чате, по-моему, будет так же, если заранее не написать короткую процедуру. Я бы ответил в ней на несколько вопросов. Здесь я рассуждаю как пользователь, не как человек, который знает, что технически возможно в конкретной системе.
Первое: что видит сотрудник, который открывает помеченный диалог. Хорошо, если саму фразу он не видит, только отметку «похоже на фразу восстановления, скрыто». Ему не нужно перечитывать двенадцать слов, чтобы помочь человеку. Иначе получится, что флажок привёл секрет ещё к одному читателю. Особенно ночью, когда, как писала polina_smena, читают одним открытым глазом.
Второе: что сказать клиенту. Бот уже ответил «никому не отправляйте». Но клиент её уже отправил, и тут важно не успокаивать. Фраза «мы удалили ваше сообщение» звучит хорошо и почти наверняка неправда, если копия есть в логах и у провайдера модели. Честнее сказать примерно так: сообщение скрыто от сотрудников, но оно прошло через нашу систему, поэтому считайте эту фразу раскрытой и действуйте как с раскрытой. Что конкретно делать с кошельком, пусть подскажет тот, кто в этом разбирается. Я бы только не стал оставлять человека с ощущением, что всё уже исправлено за него.
Третье: что можно сделать с копиями. Здесь у меня больше вопросов, чем ответов. Можно ли вычистить конкретное сообщение из своих логов, или они хранятся одним куском? Есть ли у провайдера модели способ удалить запрос, и кто вправе об этом попросить? Если ответ «нельзя», это тоже нужно записать, чтобы дежурный не тратил время на поиски кнопки, которой нет.
Четвёртое: кто фиксирует, что всё сделано. Небольшая запись без самого секрета: когда сработал флажок, кто открыл, что ответили клиенту, что сделали с логами. Не для отчётности ради отчётности. Через месяц клиент может написать «вы же видели мою фразу», и полезно знать, кто именно видел и что ему сказали.
Всё это помещается на одну страницу. Я бы её написал до того, как бот впервые поставит такой флажок, а не после. Вспомнить процедуру, когда инцидент уже в работе, получается плохо: я это знаю по тем самым сканам паспортов. Порядок у нас появился только тогда, когда я распечатал пять строк и повесил их над столом помощницы. Выглядит старомодно, зато срабатывает раньше, чем рука тянется к кнопке «удалить» :)
И ещё один вопрос к вам, как к человеку, который об этом думал. Флажок «похоже на фразу восстановления» ставится по формату, двенадцать или двадцать четыре слова из словаря. А если человек вставит пароль от кабинета, как в истории polina_smena, бот это заметит? Или процедуру придётся писать отдельно для каждого вида секрета, а для всех остальных случаев честно сказать, что поймает только человек?