اصول حکمرانی بر هوش مصنوعی در سازمان‌ها

مقدمه

در دهه گذشته، نقش رهبران فناوری از ساخت سیستم‌های هوش مصنوعی به حکمرانی بر آن‌ها تغییر کرده است. این تغییر که «تغییر فرماندار» نامیده می‌شود، بر تعیین نیت، اصول و مرزهای سیستم‌هایی تمرکز دارد که وظایف را برای ما انجام می‌دهند. در محیط‌های سازمانی، هوش مصنوعی می‌تواند به بهبود خدمات مشتری و کارایی عملیاتی کمک کند، اما بدون حکمرانی مناسب، ارزش واقعی محقق نمی‌شود. گزارش‌ها نشان می‌دهد که با وجود سرمایه‌گذاری‌های کلان، تنها حدود ۵ درصد از پایلوت‌های یکپارچه به ارزش قابل توجه دست یافته‌اند. این شکاف نه به دلیل کمبود فناوری، بلکه به دلیل کمبود افرادی است که بتوانند سیستم‌ها را هدایت کنند و مسئولیت نتایج را بپذیرند.

اصل اول: شناسایی میان‌افزار انسانی

میان‌افزار در نرم‌افزار کدی است که بین دو سیستم قرار می‌گیرد و اطلاعات را منتقل می‌کند. بسیاری از کارکنان امروز به میان‌افزار انسانی تبدیل شده‌اند: زمان زیادی را صرف استخراج داده از یک ابزار، قالب‌بندی مجدد و ارسال به تیم دیگر می‌کنند. این وضعیت که «تله مدیر» نامیده می‌شود، ناشی از معماری سازمانی است، نه افراد. عامل‌های هوش مصنوعی می‌توانند این انتقال را انجام دهند، اما قضاوت درباره اینکه کدام اعداد مهم‌اند یا کدام ریسک واقعی است، همچنان بر عهده انسان است. شناسایی این وضعیت اولین گام برای آزادسازی ظرفیت انسانی برای کارهای ارزشمندتر است.

اصل دوم: تبدیل قوانین به اصول

قوانین برای مدیریت کار در سرعت انسانی طراحی شده‌اند، اما وقتی سیستمی هزاران تصمیم در ساعت می‌گیرد و با موقعیت‌های پیش‌بینی‌نشده روبه‌رو می‌شود، قوانین کارایی خود را از دست می‌دهند. به جای قانون که می‌گوید «دقیقاً این کار را انجام بده»، اصول بیان می‌کنند که «به آن نتیجه برس بدون عبور از خطوط قرمز». حکمرانی بر هوش مصنوعی یعنی نوشتن اصول به ترتیب اولویت تا سیستم بتواند تعارض‌ها را مانند یک تیم خوب مدیریت کند. برای مثال: هرگز به مشتری آسیب نرسان، حقیقت را بگو حتی اگر فروش را از دست بدهی، اقتصاد را حفظ کن و سپس سریع حرکت کن. این اصول در «کتابخانه اصول» مکتوب می‌شوند و بخشی از کار رهبری هستند.

اصل سوم: فرهنگ خود را در کد بنویسید

بسیاری از شرکت‌ها ارزش‌های خود را روی پوستر می‌نویسند، اما عامل هوش مصنوعی نمی‌تواند پوستر بخواند. راه‌حل، نوشتن حکمرانی به صورت کد است: دستورالعمل‌های قابل خواندن توسط ماشین که عامل به طور خودکار دنبال می‌کند. این کار در سه لایه انجام می‌شود: قانون اساسی (قوانینی که هرگز نباید نقض شوند، مانند بیان نکردن واقعیت بدون پشتوانه)، دکترین (نحوه رقابت کسب‌وکار و مصالحه‌های قابل قبول)، و کتاب بازی (تاکتیک‌های یک کار خاص). این لایه‌ها به سیستم کمک می‌کنند تا در موقعیت‌های پیچیده، تصمیم‌هایی همسو با ارزش‌های سازمان بگیرد.

اصل چهارم: ترموستات اعتماد، نه کلید اعتماد

پرسش اصلی در استقرار هوش مصنوعی این است: «اگر سیستم به مشتری مهم ما اطلاعات غلط بدهد چه؟» رفتار با اعتماد به صورت کلید، دو گزینه بد باقی می‌گذارد: سیستم نظارت‌نشده یا بازبینی انسانی هر تراکنش که هزینه‌بر است. جایگزین، ترموستات اعتماد است: هر تصمیم عامل دارای امتیاز اطمینان است. بالاتر از آستانه توافق‌شده، عامل خودش تصمیم می‌گیرد؛ پایین‌تر از آن، انسان تصمیم می‌گیرد. پاسخ انسان به حلقه یادگیری بازخورد داده می‌شود تا موارد مشابه بعدی خودکار شوند. این رویکرد شفافیت، قابلیت حسابرسی و توضیح‌پذیری را تضمین می‌کند که «جعبه شیشه‌ای» نامیده می‌شود.

اصل پنجم: ابتدا زمینه را اصلاح کنید

نمی‌توان سیستمی را حکمرانی کرد که تصویر کامل را نمی‌بیند. بهترین کارمند شما درباره یک پروژه، بودجه، بند قرارداد و آخرین شکایت مشتری را به خاطر می‌آورد، زیرا همه را در ذهن دارد. اما بسیاری از سیستم‌های سازمانی در این آزمون شکست می‌خورند چون اطلاعات در برنامه‌های مختلف با قالب‌های ناسازگار پراکنده است. حلقه کامل شامل اتصالات (ورود اطلاعات خام)، زمینه (بافت‌نگاری در یک گراف زمینه که حافظه سیستم را می‌سازد)، استدلال (تصمیم‌گیری)، اقدامات (بازگرداندن تصمیم به سیستم‌ها) و حکمرانی (همسوسازی با نیت شرکت) است. بسیاری از سازمان‌ها روی استدلال تمرکز می‌کنند و در زمینه و حکمرانی کم‌investمی‌کنند، در حالی که زمینه انباشته می‌شود و هر تعامل گراف را غنی‌تر می‌کند.

اصل ششم: رهبری بر اساس استثنا

مهم‌ترین تغییر عادت آخرین مورد است. بسیاری از ما عادت کرده‌ایم هر گزارش و هر عدد را بررسی کنیم چون نمی‌دانیم خطا کجا ممکن است رخ دهد. در یک سیستم حکمرانی‌شده، ماشین به شما می‌گوید کدام موارد را با اطمینان حل نکرده است. گردش‌های کاری معمول دست‌نخورده می‌مانند و توجه شما به بخش کوچکی که مبهم، ناآشنا یا پرخطر است معطوف می‌شود. این کار در ابتدا ممکن است حس از دست دادن کنترل بدهد، اما در واقع باعث می‌شود سازمانی خودمقیاس‌شویم: خروجی بدون افزایش متناسب نیروی انسانی رشد می‌کند. انسان‌ها از حلقه حذف نشده‌اند، بلکه بالاتر از آن قرار گرفته‌اند.

پرسش هویت

مقاومت در برابر این تغییر اغلب نه فنی بلکه هویتی است: اگر هوش مصنوعی انجام می‌دهد، من چه کار می‌کنم؟ اما انجام دادن هرگز واقعاً کار اصلی نبود؛ قضاوت بود. هوش مصنوعی قضاوت را کم‌ارزش نکرده، بلکه آن را کمیاب‌ترین منبع سازمان کرده است. رهبران باید بپذیرند که نقش آن‌ها از اجرا به تعیین چارچوب و حکمرانی تغییر کرده است. این تغییر نه تنها اجتناب‌ناپذیر است، بلکه فرصتی برای تمرکز بر تصمیم‌های مهم‌تر و ارزشمندتر فراهم می‌کند.