هوش مصنوعی در حال عبور از پیشنهاد دادن به اقدام کردن است.
عامل‌های هوشمند می‌توانند برنامه‌ریزی کنند، به سامانه‌ها متصل شوند، اطلاعات را جابه‌جا کنند و بخشی از فرایندهای سازمانی را با استقلال نسبی پیش ببرند. این تحول برای دولت فقط یک پیشرفت فنی نیست؛ مسئله‌ای درباره حدود اختیار عمومی است.
شواهد
NIST ابتکار استانداردهای عامل هوش مصنوعی را با تمرکز بر اقدام امن از جانب کاربران، تعامل‌پذیری، هویت و پذیرش قابل اعتماد عامل‌های دارای قابلیت اقدام خودمختار آغاز کرد.
در یک مطالعه گسترده تیم قرمز، بیش از ۲۵۰ هزار حمله علیه ۱۳ مدل پیشرفته بررسی شد و علیه همه مدل‌های آزمایش‌شده دست‌کم یک حمله موفق ربایش عامل ثبت شد.
راهنمای عامل‌های یکپارچه، نشت داده، سامانه‌های غیرمجاز و عملیات کنترل‌نشده را از مخاطرات اصلی می‌داند و تأکید می‌کند تصمیم‌های حیاتی نباید بدون نظر متخصص انسانی اتخاذ شوند.
گزارش چشم‌انداز دولت دیجیتال، هم‌زمان با بررسی عامل‌های هوشمند، بر پاسخ‌گویی روشن، داده قابل اعتماد، فرایندهای شفاف و ارزیابی نظام‌مند نتایج تأکید می‌کند.
تحلیل
هوش مولد معمولاً متن، خلاصه یا پیشنهاد تولید می‌کند. عامل هوشمند یک گام جلوتر می‌رود: ابزارها را فراخوانی می‌کند، با سامانه‌های دیگر ارتباط می‌گیرد و زنجیره‌ای از اقدامات را برای رسیدن به یک هدف اجرا می‌کند.
در بخش خصوصی، اقدام اشتباه ممکن است زیان عملیاتی ایجاد کند؛ اما در دولت، همان خطا می‌تواند بر حق، خدمت، فرصت یا دسترسی شهروند به منابع عمومی اثر بگذارد.
تفسیر براساس چارچوب پیشنهادی 6GDT
در چارچوب پیشنهادی من برای نسل ششم تحول دیجیتال (6GDT)، استقلال عامل با هوش استنتاجی یکسان نیست.
عامل می‌تواند کاری را اجرا کند؛ اما هوش استنتاجی به ظرفیت مشترک انسان و هوش مصنوعی برای صورت‌بندی فرضیه، بررسی شواهد، کشف رابطه، جست‌وجوی شواهد مخالف و اعتبارسنجی نتیجه پیش از صدور اجازه اقدام اشاره دارد.
عامل هوشمند، توان اقدام را افزایش می‌دهد؛ هوش استنتاجی، صلاحیت آن اقدام را بررسی می‌کند.
ابزار مدیریتی پیشنهادی: دفتر ثبت تفویض اختیار دیجیتال
هر اقدام مهم عامل هوشمند باید سابقه‌ای قابل پیگیری داشته باشد که نشان دهد:
- عامل با هویت چه فرد یا نهادی اقدام کرده است؛
- هدف، محدوده و مدت اختیار آن چه بوده است؛
- به کدام داده‌ها و سامانه‌ها دسترسی داشته است؛
- کدام اقدامات به تأیید انسان نیاز داشته‌اند؛
- مسئول انسانی نتیجه چه کسی است؛
- اقدام چگونه متوقف، اصلاح یا بازگردانده می‌شود.
داشبورد هوش تجاری نیز نباید فقط سرعت و تعداد وظایف را نمایش دهد؛ اقدامات خارج از حدود اختیار، مداخله انسانی، زمان بازگردانی خطا و پیامد تصمیم برای شهروند باید اندازه‌گیری شود.
فرضیه آینده
سازمان‌هایی که میان استنتاج، اجازه اجرا و مسئولیت نتیجه تفکیک ایجاد می‌کنند، احتمالاً می‌توانند از بهره‌وری عامل‌های هوشمند استفاده کنند، بدون آنکه پاسخ‌گویی عمومی را تضعیف کنند. این گزاره یک فرضیه آزمون‌پذیر است، نه نتیجه‌ای اثبات‌شده.
علم نوین استنتاج (NIS) نیز به‌عنوان بنیان نظری پیشنهادی این مسیر پژوهشی، همچنان به توسعه مفهومی و اعتبارسنجی تجربی مستقل نیاز دارد.
منابع
- NIST — ابتکار استانداردهای عامل هوش مصنوعی، ۲۰۲۶
- NIST — یافته‌های امنیت عامل‌های هوش مصنوعی، ۲۰۲۶
- دولت بریتانیا — عامل‌های یکپارچه، ۲۰۲۶
- OECD — چشم‌انداز دولت دیجیتال ۲۰۲۶
- OECD — هوش مصنوعی عامل‌محور در سازمان‌ها، ۲۰۲۶
شواهد، تفسیر و چارچوب پیشنهادی عمداً از یکدیگر تفکیک شده‌اند. نهادهای یادشده تأییدکننده 6GDT یا NIS نیستند.