این راهنمای عمومی با منابع رسمی لینکشده بازبینی شده و جای متن دارای حق نشر استاندارد یا نظر حقوقی/مقرراتی را نمیگیرد. روش پژوهش، بازبینی و اصلاح محتوا

- ۱فهرست سامانههای AI
- ۲ریسک و ارزیابی اثر
- ۳کنترل چرخه عمر
- ۴پایش و بهبود
این مسیر، خلاصه تحریریه است؛ جزئیات و استثناها در متن مقاله توضیح داده شدهاند.
ISO/IEC 42001 دقیقاً چه مسئلهای را حل میکند؟
ISO/IEC 42001:2023 الزامات ایجاد، پیادهسازی، نگهداری و بهبود مستمر یک سیستم مدیریت هوش مصنوعی یا AIMS را مشخص میکند. مخاطب آن فقط شرکت سازنده مدل نیست؛ سازمانی که محصول یا خدمت مبتنی بر هوش مصنوعی توسعه میدهد، آن را در اختیار دیگران میگذارد یا در فرایندهای خود استفاده میکند نیز باید نقش و اثر خود را ببیند.
این استاندارد کیفیت فنی یک مدل منفرد را بهتنهایی تضمین نمیکند و جای قانون، آزمون محصول یا ارزیابی تخصصی ایمنی را نمیگیرد. ارزش آن در ساختن حاکمیتی قابل تکرار است: چه کسی تصمیم میگیرد، کدام ریسک پذیرفته میشود، اثر بر افراد چگونه بررسی میشود، تغییر مدل چه زمانی نیازمند بازبینی است و چه شواهدی برای پاسخگویی باقی میماند.
دامنه را با فهرست واقعی سامانههای هوش مصنوعی بسازید
سازمان پیش از تعیین دامنه باید بداند چه سامانههایی واقعاً در حال توسعه یا استفادهاند. فهرست خوب فقط نام ابزار نیست؛ مالک کسبوکاری، تأمینکننده، کاربرد موردنظر، دادههای ورودی، گروههای اثرپذیر، نوع خروجی، سطح خودکاربودن تصمیم، محیط استقرار و وضعیت چرخه عمر را ثبت میکند. ابزار عمومی مولد، مدل سفارشی، سرویس ابری و قابلیت AI تعبیهشده در یک نرمافزار سازمانی همگی ممکن است مرتبط باشند.
«هوش مصنوعی سایه» نیز باید دیده شود: استفاده فردی کارکنان از ابزارهایی که خرید یا تصویب مرکزی ندارند. هدف، ممنوعکردن کورکورانه نیست؛ هدف این است که کاربرد، داده و پیامد ناشناخته باقی نماند. دامنه AIMS باید با نقش سازمان—توسعهدهنده، فراهمکننده یا استفادهکننده—و کنترل واقعی آن بر چرخه عمر همخوان باشد.
دامنه، استاندارد هدف و وضعیت فعلی را بفرستید تا مسیر واقعی را روشن کنیم؛ بدون وعده صدور.
درخواست ارزیابی اولیهزمینه، ذینفعان و پاسخگویی را به کاربرد AI وصل کنید
ریسک یک سامانه پیشنهاد متن با ریسک سامانهای که بر استخدام، اعتبار، سلامت یا ایمنی اثر میگذارد یکسان نیست. زمینه شامل هدف کسبوکار، قوانین قابل اعمال، تعهدات قراردادی، انتظار مشتری، حساسیت تصمیم، توان فنی و وابستگی به تأمینکننده است. طرفهای ذینفع نیز فقط خریدار نیستند؛ کاربران، کارکنان، اشخاصی که خروجی درباره آنهاست، تنظیمگر و جامعه میتوانند نیاز یا نگرانی مرتبط داشته باشند.
برای هر تصمیم مهم باید مالک و مسیر تصعید روشن باشد. کمیتهای با عنوان جذاب اما بدون اختیار، معیار توقف یا دسترسی به داده، کنترل مؤثری ایجاد نمیکند. مدیریت ارشد باید بداند کدام کاربردها پذیرفته، محدود یا متوقف میشوند و چگونه بین فرصت نوآوری و اثر نامطلوب توازن برقرار میشود.
ارزیابی ریسک را با ارزیابی اثر اشتباه نگیرید
ریسک سازمانی میتواند محرمانگی، کیفیت داده، خطای مدل، امنیت، تداوم، قرارداد یا اعتبار را دربر گیرد. ارزیابی اثر، نگاه را به پیامدهای قابل پیشبینی برای افراد، گروهها و جامعه گسترش میدهد؛ مانند تبعیض، حذف ناعادلانه، نبود امکان اعتراض، تصمیم غیرشفاف یا اثر نامتناسب بر گروهی خاص. ISO/IEC 42005:2025 برای ارزیابی اثر سامانه AI راهنمای مکمل ارائه میکند.
این دو ارزیابی باید به تصمیم منتهی شوند: کنترل، مالک، موعد، معیار پذیرش و ریسک باقیمانده. جدول امتیاز بدون شاهد و اقدام کافی نیست. ارزیابی نیز رویداد یکباره پیش از راهاندازی نیست؛ تغییر داده، مدل، هدف، محیط استفاده یا گروه کاربر میتواند بازبینی را ضروری کند.
داده، تأمینکننده و چرخه عمر را قابل پیگیری کنید
حاکمیت داده باید منبع، مجوز استفاده، کیفیت، نمایندگی، پاکسازی، برچسبگذاری، نسخه و محدودیت داده را پوشش دهد. برای سامانه خریداریشده نیز پرسشها حذف نمیشوند: تأمینکننده چه اطلاعاتی درباره محدودیت، تغییر نسخه، رخداد، محل پردازش و خروجی ارائه میکند؟ سازمان چگونه ادعا را راستیآزمایی و عملکرد را پس از استقرار پایش میکند؟
شواهد چرخه عمر میتواند شامل توجیه کاربرد، معیار پذیرش، نتیجه آزمون، تصمیم انتشار، سابقه تغییر، محدودیتهای شناختهشده، رخداد، بازخورد کاربر و تصمیم بازنشستگی باشد. لازم نیست همه تیمها یک قالب سنگین داشته باشند؛ عمق کنترل باید با ریسک و اثر کاربرد متناسب باشد، اما زنجیره تصمیم نباید گم شود.
نظارت انسانی و شفافیت باید عملیاتی باشند
نوشتن عبارت «تصمیم نهایی با انسان است» نظارت انسانی را ثابت نمیکند. فرد باید اختیار مداخله، اطلاعات کافی، زمان مناسب و شایستگی لازم داشته باشد. باید روشن باشد چه زمانی خروجی قابل اتکا نیست، چه علامتی نیازمند ارجاع است و تصمیم اصلاح یا توقف چگونه ثبت میشود. اگر انسان صرفاً خروجی را بدون امکان اعتراض تأیید کند، کنترل ممکن است صوری باشد.
شفافیت نیز به مخاطب بستگی دارد. تیم فنی، مدیر، مشتری و فرد اثرپذیر به سطح متفاوتی از توضیح نیاز دارند. سازمان باید محدودیت و کاربرد موردنظر را بدون افشای ناموجه اطلاعات محرمانه منتقل کند و سازوکاری برای پرسش، شکایت، رخداد و بازخورد داشته باشد.
AIMS را با ISO/IEC 27001 و ISO 9001 یکپارچه کنید، نه جایگزین
ISO/IEC 27001 ریسک امنیت اطلاعات را مدیریت میکند؛ ISO/IEC 42001 دامنه گستردهتری از حاکمیت، ریسک و اثر هوش مصنوعی دارد. امنیت داده برای AI ضروری است اما سوگیری، نظارت انسانی یا اثر اجتماعی را کامل پوشش نمیدهد. ISO 9001 نیز میتواند کنترل فرایند، نیاز مشتری و بهبود را پشتیبانی کند، اما استاندارد تخصصی AI نیست.
سازمان دارای سیستم مدیریت میتواند اجزای مشترکی مانند کنترل اطلاعات مدون، شایستگی، ممیزی داخلی، اقدام اصلاحی و بازنگری مدیریت را یکپارچه کند. با این حال، معیارهای تخصصی داده، ارزیابی اثر، مسئولیت چرخه عمر و کنترل تأمینکننده AI باید صریح باقی بمانند.
چکلیست آمادگی پیش از تعریف پروژه
- فهرست سامانههای AI و نقش سازمان برای هر مورد وجود دارد.
- دامنه، کاربرد موردنظر و گروههای اثرپذیر روشناند.
- مالک کسبوکاری، فنی، ریسک و مسیر تصعید تعیین شدهاند.
- روش ارزیابی ریسک و اثر به تصمیم و کنترل متصل است.
- منبع و کیفیت داده، تغییر مدل و تأمینکنندگان قابل پیگیریاند.
- معیار نظارت انسانی، توقف، رخداد و شکایت عملیاتی است.
- شاخصها، ممیزی داخلی و بازنگری مدیریت فقط روی کاغذ نیستند.
اگر این ورودیها هنوز وجود ندارند، نقطه شروع منطقی تحلیل دامنه و بلوغ است؛ نه تعیین تاریخ ممیزی صدور. انتخاب مرجع صدور و تصمیم گواهینامه مستقل از مشاور باقی میماند و هیچ چارچوبی نتیجه فنی یا قانونی مطلق را تضمین نمیکند.
۴۲۰۰۱ چه چیزی را مدیریت میکند و چه چیزی را نه
ISO/IEC 42001:2023 اولین استاندارد بینالمللی سیستم مدیریت هوش مصنوعی است. مهم است که دقیق بدانید چه چیزی را میپوشاند:
میپوشاند: سیاست هوش مصنوعی، مدیریت ریسک در چرخه عمر سیستم، نقشها و مسئولیتها، مدیریت داده و مستندسازی، امنیت و صحت، شفافیت و ارتباط با کاربر، کنترل بر تأمینکننده و سیستمهای بیرونی، و بهبود مستمر.
نمیپوشاند: انطباق با مقررات خاص هوش مصنوعی (که به حوزه قضایی وابسته است)، تضمین صحت مدل، و جایگزینی آزمون فنی. یعنی ۴۲۰۰۱ به شما نمیگوید مدل شما دقیق است — میگوید شما فرایندی دارید که دقت را میسنجد، مستند میکند، و اگر کافی نبود، اقدام میکند.
مرز سیستم هوش مصنوعی: سختترین تصمیم اولیه
پیش از هر کاری، باید پاسخ روشنی به این پرسش بدهید: «سیستم هوش مصنوعی ما دقیقاً چیست و مرزش تا کجاست؟» در بیشتر سازمانها، پاسخ مشخص نیست و همین، پروژه را به سردرگمی میکشد.
سه الگوی رایج:
۱. مصرفکننده مدل آماده. سازمان از سرویس بیرونی (چتبات، ابزار تحلیل، سرویس متن) استفاده میکند و در آن تغییر نمیدهد. مرز سیستم: انتخاب ارائهدهنده سرویس، نقاط ورود داده، کیفیت خروجی، حاکمیت داده و کنترل دسترسی. در این الگو، کنترل تأمینکننده کلیدی است.
۲. تنظیمکننده با داده خود. سازمان مدل بیرونی را با داده خود تنظیم میکند (fine-tune) یا از پایگاه دانش خود پر میکند. مرز: افزون بر الگوی ۱، کیفیت داده آموزش، ارزیابی سوگیری، و مستندسازی نسخه. خطر «توهم» و نشت اطلاعات در داده ورودی، در اینجا بالاتر است.
۳. سازنده. سازمان مدل خود را میسازد یا آموزش میدهد. مرز شامل چرخه کامل توسعه، ارزیابی، استقرار و پایش. این سنگینترین الگو است و برای بیشتر سازمانها مناسب نیست.
عدم شفافیت در این تصمیم، بیشترین ریسک پروژه ۴۲۰۰۱ است. یک کارگاه دو ساعته با تیم فنی و مدیریت، معمولاً به یک جمله روشن میرسد که بقیه برنامه را آسان میکند.
ریسک هوش مصنوعی: فهرستی که باید داشته باشید
ریسکهای واقعی که در سازمان ایرانی دیده میشوند و باید در ارزیابی ریسک پوشش داده شوند:
نشت اطلاعات. ارسال داده مشتری یا اطلاعات محرمانه سازمان به سرویس بیرونی. در محیطهای بدون سیاست روشن، این اتفاق معمولاً افتاده است. کنترل: سیاست استفاده، مسدودسازی داده حساس، آموزش، و بازبینی لاگها.
خطای خروجی و تصمیم نادرست. مدل ممکن است با اطمینان کامل، پاسخ غلط بدهد. کنترل: تعریف نقطه تأیید انسانی برای تصمیمهای مهم، و برچسبگذاری خروجی خودکار.
سوگیری و تبعیض. اگر مدل بر اساس داده تاریخی سازمان یا جامعه آموزش دیده باشد، ممکن است رفتار تبعیضآمیز داشته باشد. کنترل: ارزیابی سوگیری در دامنه مورد استفاده، و مستندسازی نتایج.
وابستگی به تأمینکننده. اگر سرویس قطع شود یا شرایط استفاده تغییر کند، سازمان چه میکند؟ کنترل: برنامه جایگزین و بررسی سطح خدمت.
مسئولیتپذیری. اگر مدل تصمیم اشتباه بگیرد، چه کسی پاسخگو است؟ کنترل: نقش تعریفشده «مالک سیستم هوش مصنوعی».
نقشه آمادگی در پنج گام
گامهای واقعبینانه برای سازمانی که تازه شروع میکند:
گام ۱ (۱ ماه): فهرست سیستمهای هوش مصنوعی در استفاده — شامل استفادههای غیررسمی کارکنان (شیوه رایج که معمولاً پنهان است). بدون این فهرست، همه مراحل بعدی محدود است.
گام ۲ (۱ ماه): تعیین مرز برای هر سیستم و طبقهبندی ریسک. تصمیم مدیریت درباره «کدام سیستمها مجاز است و در چه شرایط».
گام ۳ (۲ ماه): نوشتن سیاست یکصفحهای و نقشها: چه کسی تصمیم میگیرد، چه کسی پایش میکند، چه کسی پاسخگو است.
گام ۴ (۲ تا ۳ ماه): اعمال کنترلهای کلیدی برای بالاترین ریسکها — بهویژه نشت داده و نقطه تأیید انسانی.
گام ۵ (مداوم): پایش، مستندسازی درسآموخته، بازبینی سالانه.
یک نکته مهم برای شروع: لازم نیست منتظر گواهینامه باشید. فهرست سیستمها، سیاست استفاده و نقطه تأیید انسانی برای تصمیمهای مهم میتوانند شروع مناسبی باشند، اما میزان کاهش ریسک را باید بر اساس شواهد همان سازمان ارزیابی کرد. گواهینامه بعد میآید.
منابع اصلی
صفحههای مرتبط: ISO/IEC 42001:2023
برای بررسی کاربرد این موضوع در سازمان خود، دامنه و هدف پروژه را در فرم ارزیابی اولیه توضیح دهید.
درخواست ارزیابی

