زیرساخت عملیاتی برای پایش خدمات AI، میزان استفاده از مدل، عملکرد، خطاها و منابع سیستم.
پایش می‌تواند logging، metric، health check، latency، مصرف منابع، رفتار مدل و availability سرویس را شامل شود.
این قابلیت‌ها از اجرای پایدار خدمات آنلاین AI، APIها، پلتفرم‌های پژوهشی و استقرارهای داخلی مدل پشتیبانی می‌کنند.
روش پیاده‌سازی بر اساس داده‌های موجود، محدودیت‌های فنی، میزان اتوماسیون مورد نیاز و زیرساخت نرم‌افزاری یا پژوهشی پروژه انتخاب می‌شود. راهکار می‌تواند به‌صورت یک جزء مستقل یا درون یک سامانه بزرگ‌تر پیاده‌سازی شود.
هدف، ایجاد یک جریان محاسباتی روشن و قابل ارزیابی است که بتوان آن را در ادامه نگهداری، توسعه و با نیازهای جدید پروژه تطبیق داد. بنابراین انتخاب مدل، پردازش داده، رابط‌ها و روش استقرار بر اساس مسئله واقعی پروژه تعیین می‌شود.