Library 4 articles
Structured explanations of models, algorithms, systems and engineering decisions.
AI-агент может готовить документы, проверять данные и выполнять ограниченные действия в ERP. Но доступ к системе не равен полномочию принимать любое решение. Разбираем, как разграничить рекомендации, исполнение и утверждение, какие операции требуют контроля человека и почему кнопка «Согласовать» сама по себе не обеспечивает надзор.
Метод оценки разобран на учебном агенте подготовки платежей: от границ полномочий и наблюдаемых условий успеха до результатов испытаний и решения об отказе в допуске. Отдельно показано, почему полезность, заблокированные попытки, реальные нарушения и надёжность человеческого одобрения нельзя сводить к одному показателю.
Для числовой классификации, регрессии, скоринга и прогнозирования по финансовым таблицам классические статистические модели, Random Forest и особенно GBDT обычно следует проверять раньше LLM. Они предпочтительнее при ограниченной выборке, фиксированной схеме признаков, строгих требованиях к арифметической точности, калибровке, задержке, воспроизводимости и аудиту. LLM приносят больше пользы на языковой границе задачи – при работе с отчётами, естественно-языковыми запросами и оркестрации SQL или Python, но это уже сравнение систем, а не только моделей.
AI автоматизирует производство многих технических артефактов, но не принимает на себя инженерную функцию целиком. Инженер по-прежнему определяет цель и требования, выбирает вычислительный механизм, задаёт допустимые состояния и ограничения, оценивает последствия ошибки, собирает доказательства корректности, отвечает за интеграцию и эксплуатацию. Граница делегирования проходит не между «простыми» и «сложными» задачами, а между результатами, которые можно независимо проверить и безопасно откатить, и решениями, где ошибка плохо наблюдаема, широко распространяется или дорого обходится.