هیئتمدیره پرسشی تازه دارد: آیا میتوانیم به هوش مصنوعیمان اعتماد کنیم؟
اعضای غیرموظف هیئتمدیره هرچه بیشتر از تیمهای مدیریتی میخواهند حاکمیت هوش مصنوعی را توضیح دهند — و بیشتر تیمهای رهبری آماده نیستند.
اواخر ۲۰۲۴ چیزی در اتاقهای هیئتمدیره جابهجا شد. اعضای غیرموظف — بهویژه آنها که پیشینهٔ نظارتی، حقوقی یا ریسک دارند — شروع کردند به پرسیدن سؤالهایی تیز دربارهٔ حاکمیت هوش مصنوعی که تیمهای مدیریتی برایشان آماده نبودند. نه «چه هوش مصنوعیای استفاده میکنیم؟» بلکه «از کجا میدانیم هوش مصنوعیمان همان کاری را میکند که فکر میکنیم؟»
سیگنال نظارتی روشن بود: ESMA، EBA و نهادهای ذیصلاح ملی در سراسر اروپا حاکمیت هوش مصنوعی را مسئولیتی در سطح هیئتمدیره میدانند، نه کارکردی در واحد فناوری. یعنی کمیتهٔ حسابرسی باید ریسک مدل را بفهمد، کمیتهٔ ریسک باید حالتهای خطای هوش مصنوعی را بشناسد و کمیتهٔ جبران خدمات باید بسنجد که آیا سنجههای عملکردیِ مبتنی بر هوش مصنوعی انگیزههای کج میسازند یا نه.
چارچوبی کارآمد برای حاکمیت هوش مصنوعی در سطح هیئتمدیره سه لایه دارد: شفافیت (آیا میدانیم چه سامانههایی داریم و بر کدام تصمیمها اثر میگذارند؟)، پاسخگویی (وقتی سامانهای شکست خورد، مسئول کیست؟) و مهارپذیری (آیا میتوانیم در صورت نیاز حسابرسی، تنظیم یا خاموشش کنیم؟). بیشتر سازمانها در لایهٔ نخست نمرهٔ خوب میگیرند و در دو لایهٔ بعدی ضعیف.