6.5 দায়িত্বশীল ও বিশ্বস্ত AI

পরিচিতি ও প্রেরণা

দায়িত্বশীল ও বিশ্বস্ত AI হলো ন্যায্য, স্বচ্ছ, জবাবদিহিযোগ্য, নিরাপদ এবং গোপনীয়তার প্রতি শ্রদ্ধাশীল AI সিস্টেম গড়া ও পরিচালনার চর্চা। এর মানে প্রভাবিত মানুষ ও নিয়ন্ত্রকদের কাছে এসব দেখাতে পারাও। AI যখন মানুষের জীবন আকার দেওয়া সিদ্ধান্ত (নিয়োগ, ঋণ, সুবিধার যোগ্যতা) নেয়, প্রশ্ন আর কেবল “এটি কি কাজ করে?” নয়, “এটি কি সঠিক, এবং আমরা কি যথার্থ করতে পারি?” গড়ে নির্ভুল একটি সিস্টেম তবুও একটি উপগোষ্ঠীর প্রতি অন্যায্য, যাকে প্রভাবিত করে তার কাছে অব্যাখ্যেয়, বা অপব্যবহৃত হলে অনিরাপদ হতে পারে। আপনি সুচিন্তিতভাবে এই মাত্রাগুলো সম্বোধন করে আস্থা অর্জন করেন, সেগুলো নিজে সামলে নেবে এই আশায় নয়।

বড় দলের জন্য দায়িত্বশীল AI একজনের কাজ বা শেষে একটি চেকবক্স হতে পারে না। স্পষ্ট মালিকানা ও এসকেলেশনসহ আপনি কীভাবে সিস্টেম নকশা, মূল্যায়ন, ডিপ্লয় ও শাসন করেন তাতে এটি বুনুন। পরিসরে ছোট পক্ষপাত ও তত্ত্বাবধানের ফাঁক অনেক মানুষকে প্রভাবিত করে। একটি উচ্চ-প্রোফাইল ব্যর্থতা আপনার সুনাম নষ্ট করতে এবং নিয়ন্ত্রণ ডাকতে পারে। শাসন কাঠামো ঠিক এজন্য আছে যে অ্যাড হক সদিচ্ছা স্কেল করে না।

সরকারি ও নিয়ন্ত্রিত প্রতিষ্ঠান বাধ্যতামূলক বাধ্যবাধকতার মুখোমুখি। EU AI Act-এর মতো উদীয়মান আইন ঝুঁকি অনুযায়ী ধাপে ধাপে প্রয়োজন আরোপ করে। NIST AI Risk Management Framework ও ISO/IEC 42001-এর মতো মান আপনাকে সেগুলো পূরণের কাঠামোবদ্ধ উপায় দেয়। সরকারি সংস্থাকে বেআইনি বৈষম্য এড়াতে, স্বয়ংক্রিয় সিদ্ধান্ত বিরোধের পথ দিতে এবং সরকারি কর্তৃত্ব প্রয়োগে AI কীভাবে ব্যবহার হয় সে বিষয়ে স্বচ্ছ থাকতে হয়। এই পরিবেশে দায়িত্বশীল AI একটি নৈতিক কর্তব্য ও আইনি প্রয়োজন দুটিই।

আরও দেখুন: অধ্যায় 6.1 (AI কৌশল ও প্রস্তুতি), অধ্যায় 10.5 (নীতিশাস্ত্র, জবাবদিহি ও জনস্বার্থ), এবং অধ্যায় 4.5 (গোপনীয়তা ও ডেটা সুরক্ষা)।

মূল নীতিসমূহ

• ন্যায্যতা একটি নকশা লক্ষ্য যা মাপতে ও পরিচালনা করতে হবে, ধরে নেওয়া নয়।
• AI সিদ্ধান্ত দ্বারা প্রভাবিত মানুষ ব্যাখ্যা এবং তা চ্যালেঞ্জ করার পথ প্রাপ্য।
• জবাবদিহি মানুষ ও প্রতিষ্ঠানের ওপর, কখনো মডেলের ওপর নয়।
• গোপনীয়তা ও নিরাপত্তা গাঁথতে হবে, অপব্যবহার ও নির্যাতনের বিরুদ্ধে সুরক্ষাসহ।
• শাসন স্বীকৃত কাঠামো অনুসরণ করা উচিত যাতে তা রক্ষণযোগ্য ও নিরীক্ষণযোগ্য হয়।
• মানব তত্ত্বাবধান অর্থবহ হতে হবে, অগ্রাহ্য করা ও থামানোর প্রকৃত কর্তৃত্বসহ।
• পরিবেশগত পদচিহ্নসহ AI-র বৃহত্তর খরচ বিবেচনা করুন।

সুপারিশ

পক্ষপাত ও অন্যায্যতা শনাক্ত ও প্রশমিত করুন

আপনার প্রেক্ষাপটে ন্যায্যতা মানে কী তা সংজ্ঞায়িত করুন। একাধিক, কখনো সংঘর্ষপূর্ণ, গাণিতিক সংজ্ঞা আছে, এবং সঠিকটি নির্ভর করে সিদ্ধান্ত ও আইনের ওপর। প্রতিনিধিত্বমূলক ডেটা ব্যবহার করে সুরক্ষিত ও দুর্বল গোষ্ঠী জুড়ে ভিন্ন কর্মক্ষমতার জন্য মডেল পরীক্ষা করুন। এটি ডিপ্লয়মেন্টের আগে করুন এবং পরেও করতে থাকুন, কারণ জনগোষ্ঠী সরলে পক্ষপাত দেখা দিতে পারে। ভালো ডেটা, পুনঃওজন, সীমাবদ্ধতা বা সিস্টেম কীভাবে ব্যবহৃত হয় তা বদলে প্রশমিত করুন, এবং আপনি যে বিনিময় গ্রহণ করেছেন তা নথিবদ্ধ করুন। একটি সুরক্ষিত বৈশিষ্ট্য সরানো পক্ষপাত সরায় না, কারণ প্রক্সি থেকে যায়। ন্যায্যতাকে একবারের ছাড়পত্রের বদলে চলমান পরিমাপ ও ব্যবস্থাপনা শৃঙ্খলা গণ্য করুন।

ব্যাখ্যাযোগ্যতা, ব্যাখ্যা ও স্বচ্ছতা দিন

ঝুঁকি ও শ্রোতার সঙ্গে ব্যাখ্যার স্তর মেলান। গুরুত্বপূর্ণ সিদ্ধান্তের জন্য প্রভাবিত মানুষকে একটি স্পষ্ট, সরল-ভাষা কারণ দিন যা তারা বুঝতে ও যার ওপর কাজ করতে পারে। অভ্যন্তরীণ শাসনের জন্য সিস্টেম ডিবাগ ও রক্ষা করতে যথেষ্ট প্রযুক্তিগত ব্যাখ্যাযোগ্যতা রাখুন। ঝুঁকি বেশি এবং ব্যাখ্যাযোগ্যতা অর্জনযোগ্য হলে সহজাতভাবে ব্যাখ্যাযোগ্য মডেল পছন্দ করুন। জটিল মডেল প্রয়োজন হলে ব্যাখ্যা কৌশল ব্যবহার করুন, তাদের সীমা সম্পর্কে সৎ থেকে। বিশেষত জনগণের সঙ্গে মিথস্ক্রিয়ায় আদৌ AI ব্যবহার হচ্ছে কি না সে বিষয়ে স্বচ্ছ থাকুন।

স্বীকৃত কাঠামো দিয়ে শাসন করুন

নিজে উদ্ভাবনের বদলে একটি কাঠামোবদ্ধ শাসন পদ্ধতি গ্রহণ করুন। NIST AI Risk Management Framework কাজকে AI ঝুঁকি শাসন, ম্যাপিং, পরিমাপ ও ব্যবস্থাপনার ঘিরে সংগঠিত করে। EU AI Act ঝুঁকি অনুযায়ী সিস্টেম শ্রেণিবদ্ধ করে এবং সেই অনুযায়ী বাধ্যবাধকতা আরোপ করে, উচ্চ-ঝুঁকির ব্যবহারে কঠোর প্রয়োজনসহ। ISO/IEC 42001 একটি AI ব্যবস্থাপনা সিস্টেম সংজ্ঞায়িত করে যা নিরীক্ষা ও সনদ করা যায়। আপনার সিস্টেম এই কাঠামোতে ম্যাপ করুন। মডেল ও ডেটা কার্ড (একটি মডেল বা ডেটাসেটের উদ্দেশ্য, কর্মক্ষমতা ও সীমাবদ্ধতার প্রমিত সারসংক্ষেপ)-এর মতো নথিকরণ রক্ষণাবেক্ষণ করুন। ডিপ্লয়মেন্টের আগে ঝুঁকি মূল্যায়ন চালান, এবং ঝুঁকি স্তর ও মালিকসহ AI সিস্টেমের একটি তালিকা রাখুন। ভালো শাসন স্পষ্ট ভূমিকা, সিদ্ধান্ত অধিকার ও এসকেলেশন পথ বরাদ্দ করে।

মানব তত্ত্বাবধান, জবাবদিহি ও আপিল নিশ্চিত করুন

গুরুত্বপূর্ণ সিদ্ধান্তে একজন মানুষকে অর্থবহভাবে নিয়ন্ত্রণে রাখুন, সিস্টেম অগ্রাহ্য করার প্রকৃত কর্তৃত্ব ও দরকারি তথ্যসহ, একটি রাবার স্ট্যাম্প নয়। স্পষ্ট জবাবদিহি বরাদ্দ করুন: প্রতিটি সিস্টেমের আচরণের জন্য উত্তরদায়ী একজন মালিকের নাম দিন। স্বয়ংক্রিয় সিদ্ধান্ত দ্বারা প্রভাবিত মানুষকে ব্যাখ্যার অধিকার এবং ফল বদলাতে পারে এমন একজন মানুষের কাছে আপিলের একটি কার্যকর প্রক্রিয়া দিন। সিদ্ধান্ত ও তার ভিত্তি লগ করুন, যাতে আপনি আপিল ও নিরীক্ষা ন্যায্য ও দ্রুত সামলাতে পারেন।

গোপনীয়তা, নিরাপত্তা এবং অপব্যবহারের বিরুদ্ধে রক্ষা করুন

আপনি যে ব্যক্তিগত ডেটা সংগ্রহ ও ব্যবহার করেন তা ন্যূনতম করুন, একটি আইনি ভিত্তি স্থাপন করুন, এবং জড়িত সংবেদনশীলতার উপযোগী গোপনীয়তা কৌশল প্রয়োগ করুন। কীভাবে সেগুলো কারসাজি, জেলব্রেক বা ক্ষতি করতে অপব্যবহার করা যায় তা খুঁজতে ডিপ্লয়মেন্টের আগে ও পরে সিস্টেম রেড-টিম করুন, এবং যা পান তা সারান। ক্ষতিকর কনটেন্ট তৈরি, সংবেদনশীল ডেটা ফাঁস বা নির্যাতন সক্ষম করার বিরুদ্ধে সুরক্ষা গড়ুন। ঘটনার জন্য পরিকল্পনা করুন: মনিটরিং, সাড়া ও প্রকাশ। কেবল অভিপ্রেত ব্যবহার নয়, দ্বৈত-ব্যবহার (একই সামর্থ্য উপকারী ও ক্ষতিকর দুই উদ্দেশ্যে সেবা দেওয়া) ও নিম্নধারা অপব্যবহার বিবেচনা করুন।

পরিবেশগত খরচের হিসাব রাখুন

বড় মডেলের প্রশিক্ষণ ও সার্ভিং যথেষ্ট শক্তি ও পানি খায়। প্রধান AI ওয়ার্কলোডের পদচিহ্ন মাপুন ও প্রতিবেদন করুন। প্রয়োজন পূরণ করলে দক্ষ মডেল ও হার্ডওয়্যার পছন্দ করুন। বৃহত্তমে ডিফল্ট না করে মডেল কাজের আকারে মেলান, এবং স্থাপত্য ও ক্রয় সিদ্ধান্তে পরিবেশগত খরচ বিবেচনা করুন।

ট্রেড-অফ: সুবিধা ও অসুবিধা

টানাপোড়েন	এক দিক	অন্য দিক
নির্ভুলতা বনাম ন্যায্যতা	সর্বোচ্চ গড় নির্ভুলতা	গোষ্ঠী জুড়ে সমান ফল
কর্মক্ষমতা বনাম ব্যাখ্যাযোগ্যতা	জটিল, শক্তিশালী মডেল	ব্যাখ্যাযোগ্য, রক্ষণযোগ্য মডেল
স্বয়ংক্রিয়তা বনাম তত্ত্বাবধান	দক্ষতা ও পরিসর	মানব নিয়ন্ত্রণ ও জবাবদিহি
ডেটা উপযোগিতা বনাম গোপনীয়তা	বেশি ডেটা থেকে সমৃদ্ধতর মডেল	ডেটা ন্যূনতমকরণ ও সুরক্ষা
সামর্থ্য বনাম নিরাপত্তা	ব্যাপক, উন্মুক্ত কার্যকারিতা	সীমিত, পাহারা দেওয়া আচরণ
গতি বনাম শাসন	দ্রুত ডিপ্লয়মেন্ট	পুঙ্খানুপুঙ্খ পর্যালোচনা ও নথিকরণ

বিনামূল্যের মধ্যাহ্নভোজ কদাচিৎ আছে। ন্যায্যতা উন্নত করা কিছু নির্ভুলতা খরচ করতে পারে। ব্যাখ্যাযোগ্যতা কিছু কর্মক্ষমতা খরচ করতে পারে। শাসন সময় খরচ করে। দায়িত্বশীল পথ হলো সচেতনভাবে এই বিনিময় করা, নথিবদ্ধ করা, এবং ঝুঁকি বেশি হলে প্রভাবিত মানুষ ও রক্ষণযোগ্যতার পক্ষে বাছা। শাসনকে উদ্ভাবনের ব্রেক ফ্রেম করা একটি মিথ্যা দ্বিভাজন। অপরিচালিত AI ঝুঁকি নিজেই টেকসই উদ্ভাবনের হুমকি।

আপনার দলের সঙ্গে আলোচনার প্রশ্ন

1. আমাদের ডিপ্লয় করা কোন AI সিস্টেম EU AI Act উচ্চ-ঝুঁকি শ্রেণিবদ্ধ করবে, এবং আমরা কি আজ সেই বাধ্যবাধকতা পূরণ করছি? ঝুঁকি-স্তরযুক্ত আইন এখন কাল্পনিক নয়, বাধ্যতামূলক, এবং নিয়োগ, ঋণ বা সুবিধার যোগ্যতা ঠিক করা একটি সিস্টেম এমন কঠোর প্রয়োজন বহন করতে পারে যা আপনি ইতিমধ্যে লঙ্ঘন করছেন। একটি বড় প্রতিষ্ঠানের জন্য এই প্রশ্ন শাসন “সামলানো” এই আরামদায়ক অনুমানের বদলে একটি সৎ তালিকা বাধ্য করে। ঝুঁকি স্তর ও মালিকসহ আপনার AI সিস্টেমের তালিকা আনুন, যেখানে প্রাসঙ্গিক EU AI Act, NIST AI Risk Management Framework এবং ISO/IEC 42001-এর বিপরীতে ম্যাপ করা। লক্ষ করার সংকেত হলো কোনো ঝুঁকি শ্রেণিবিন্যাস, প্রভাব মূল্যায়ন ও মডেল বা ডেটা কার্ড ছাড়া যেকোনো গুরুত্বপূর্ণ সিস্টেম। সরকারি কর্তৃত্ব প্রয়োগকারী সরকারি সংস্থার জন্য বাধ্যবাধকতা মিস করা ব্যাকলগ আইটেম নয়, আইনি উন্মুক্ততা, এবং উত্তর সেই সিস্টেমের প্রয়োজনীয় মূল্যায়ন ও নথিকরণ ট্রিগার করা উচিত।

2. আমাদের একটি মডেল কাউকে প্রত্যাখ্যান করলে সেই ব্যক্তি কি একটি সরল-ভাষা কারণ পেতে এবং ফল ফেরাতে পারে এমন একজন মানুষের কাছে পৌঁছাতে পারে? ব্যাখ্যার অধিকার এবং একটি কার্যকর আপিল হলো জবাবদিহিযোগ্য AI এবং প্রতিকার ছাড়া মানুষের ক্ষতি করা একটি কালো বাক্সের মধ্যকার পার্থক্য। গড়ে মাপা ন্যায্যতা তবুও একজন ব্যক্তিকে ব্যর্থ করতে পারে, এবং ডিপ্লয়মেন্টের পরে বাছা ব্যাখ্যাযোগ্যতা সাধারণত নাট্য। একটি নির্দিষ্ট ডিপ্লয় করা সিদ্ধান্ত আনুন এবং অনুসরণ করুন: প্রভাবিত ব্যক্তি যে কারণ পান, আপিল চ্যানেল, এবং অপর প্রান্তের মানুষটির অগ্রাহ্য করার প্রকৃত কর্তৃত্ব ও লগ করা ভিত্তি আছে কি না। সরকারি ও নিয়ন্ত্রিত পরিবেশে একটি আপিল পথ প্রায়ই আইনি প্রয়োজন, সৌজন্য নয়। কারণ দুর্বোধ্য হলে বা আপিল রাবার স্ট্যাম্পে নিয়ে গেলে পরবর্তী রিলিজের আগে সেই ফাঁক সারার।

3. একটি মডেল ক্ষতি করলে জবাবদিহিযোগ্য একক নামকরা ব্যক্তি কে, এবং তা থামানোর কি তাঁর প্রকৃত কর্তৃত্ব আছে? জবাবদিহি মানুষ ও প্রতিষ্ঠানের ওপর, কখনো মডেলের নয়, কিন্তু প্রতিটি সিস্টেমে একটি নাম বসে এবং সেই ব্যক্তি আসলে প্লাগ টানতে না পারা পর্যন্ত সেই নীতি ফাঁকা। একটি বড় দলের জন্য বিক্ষিপ্ত মালিকানা মানে একটি ন্যায্যতা ব্যর্থতা বা জেলব্রেক দেখা দিলে সবাই ধরে নেয় অন্য কেউ নজর রাখছে। আপনার মালিকানা মানচিত্র, এসকেলেশন পথ এবং তত্ত্বাবধান অর্থবহ তার প্রমাণ আনুন: নামকরা মালিক কি সিস্টেম অগ্রাহ্য বা থামানোর তথ্য ও ক্ষমতা পান, নাকি কেবল মাথা নাড়ার? আপনি এখনো কল্পনা করেননি এমন অপব্যবহারের জন্য কীভাবে রেড-টিম করেন তা আলোচনা করুন, কারণ কেবল অভিপ্রেত ব্যবহার পরীক্ষা শিরোনাম হওয়া ব্যর্থতা মিস করে। উত্তর কোনো গুরুত্বপূর্ণ সিস্টেমকে তা থামাতে পারে এমন জবাবদিহিযোগ্য মালিক ছাড়া রাখা উচিত নয়।

4. প্রতিটি গুরুত্বপূর্ণ মডেলের জন্য আমরা কোন ন্যায্যতা সংজ্ঞা বেছেছি, কে অনুমোদন দিয়েছে, এবং আমাদের উপগোষ্ঠী মেট্রিক কি প্রোডাকশনে সত্যিই টেকে? ন্যায্যতার একাধিক গাণিতিক সংজ্ঞা আছে যা একে অপরের সঙ্গে সংঘর্ষ করে, তাই সমান মিথ্যা-ইতিবাচক হার পূরণকারী মডেল সমান ফল লঙ্ঘন করতে পারে, এবং একটি সংজ্ঞা বাছা একটি মূল্যবোধ বিচার যা প্রশিক্ষণ লুপ যে লিখেছে তার ওপর ছেড়ে দেওয়া উচিত নয়। একটি বড় দলের জন্য একটি অপরীক্ষিত ডিফল্ট পছন্দ কোডে লুকায় এবং প্রতিটি নিম্নধারা গোষ্ঠীকে কেউ বিতর্ক করেনি এমন সিদ্ধান্ত উত্তরাধিকার দেয়। আপনি যে ন্যায্যতা মেট্রিক অপ্টিমাইজ করেছেন, যে সুরক্ষিত ও দুর্বল গোষ্ঠী জুড়ে পরীক্ষা করেছেন, যে প্রতিনিধিত্বমূলক ডেটা ব্যবহার করেছেন, এবং লঞ্চের পর যে ড্রিফট দেখেছেন তা আনুন, কারণ একটি সুরক্ষিত বৈশিষ্ট্য সরানো প্রক্সি রেখে যায় যা পক্ষপাত জীবিত রাখে। এন্টারপ্রাইজ ও সরকারি পরিবেশে একটি ন্যায্যতা বিনিময় গ্রহণের কর্তৃত্ব কার তার নাম দিন এবং রেকর্ড করুন, কারণ একজন নিয়ন্ত্রক বা ন্যায়পাল জিজ্ঞেস করবেন ঋণ, সুবিধা বা চাকরি প্রত্যাখ্যাত মানুষের জন্য ন্যায্যের এই সংজ্ঞা সঠিক ছিল কে ঠিক করেছিল। ডিপ্লয়মেন্টের পরে কোনো উপগোষ্ঠী মেট্রিক পর্যবেক্ষিত না হলে মডেলকে ন্যায্য নয়, অমাপা গণ্য করুন।

5. প্রতিটি সিস্টেম কত কম ব্যক্তিগত ডেটায় চলতে পারে, এবং আমরা কি অপব্যবহার ও দ্বৈত-ব্যবহারের জন্য তা রেড-টিম করেছি যা নিয়ে ভাবতে চাই না? গোপনীয়তা ও নিরাপত্তা গাঁথতে হবে, এবং ভঙ্গ ঝুঁকি ও অপব্যবহার পৃষ্ঠ দুটি কমানোর সস্তা উপায় হলো প্রথমেই কম ডেটা সংগ্রহ ও ধরে রাখা, তবু দলগুলো নিয়মিত ইনপুট “পরে সাহায্য করতে পারে ভেবে” মজুত করে। একটি বড় প্রতিষ্ঠানের জন্য প্রতিটি অতিরিক্ত ক্ষেত্র একটি আইনি-ভিত্তি প্রশ্ন, একটি ধারণ বাধ্যবাধকতা এবং একজন আক্রমণকারী বা জেলব্রেকের জন্য বড় পুরস্কার। প্রতিটি সিস্টেমের ডেটা তালিকা ও আইনি ভিত্তি, কারসাজি, ফাঁস ও ক্ষতিকর জেনারেশনের জন্য রেড-টিমিংয়ের ফল, এবং যে দ্বৈত-ব্যবহার সামর্থ্যে একই ফিচার যা বৈধ ব্যবহারকারীকে সাহায্য করে তা খারাপ বিশ্বাসে কাজ করা কাউকেও সাহায্য করে তার একটি সৎ তালিকা আনুন। নিয়ন্ত্রিত ও সরকারি প্রেক্ষাপটে এটি আপনার ঘটনা পরিকল্পনার সঙ্গে বাঁধুন: মনিটরিং, সাড়া ও প্রকাশ, কারণ সংবেদনশীল ডেটা ফাঁস করা বা জেলব্রেকযোগ্য সিস্টেম পাঠানো একটি সরকারি সংস্থা কেবল বিব্রতকর অবস্থা নয়, বিধিবদ্ধ কর্তব্যের মুখোমুখি। রেড-টিমিং কেবল অভিপ্রেত পথ অনুশীলন করলে আপনি ডেমো পরীক্ষা করেছেন, সিস্টেম নয়।

6. আমরা কি আমাদের প্রধান AI ওয়ার্কলোডের পরিবেশগত পদচিহ্ন মাপি ও মালিকানা নিই, নাকি “সবচেয়ে বড় মডেল ব্যবহার করুন” একটি অ-দাম-ধরা ডিফল্ট? বড় মডেলের প্রশিক্ষণ ও সার্ভিং প্রকৃত শক্তি ও পানি খায়, এবং একটি ছোট মডেল সামলাত এমন কাজের জন্য বৃহত্তমে ডিফল্ট করা একটি প্রকৌশল শর্টকাটকে এমন পুনরাবৃত্ত খরচে পরিণত করে যা প্রতিষ্ঠান কখনো ড্যাশবোর্ডে দেখে না। অনেক ওয়ার্কলোড চালানো একটি বড় দলের জন্য ছোট প্রতি-কল অদক্ষতা একটি পদচিহ্নে চক্রবৃদ্ধি হয় যা প্রকাশ প্রত্যাশা আঁটো হলে একটি ক্রয় ও প্রতিবেদন দায় হয়ে ওঠে। আপনার সবচেয়ে ভারী ওয়ার্কলোডের মাপা পদচিহ্ন, কাজটির আসলে যে নির্ভুলতা দরকার তার বিপরীতে মডেল আকারের তুলনা, এবং আপনি যে হার্ডওয়্যার ও সার্ভিং পছন্দ সঠিক আকারে আনতে পারেন তা আনুন। এন্টারপ্রাইজ ও সরকারি পরিবেশে এটি স্থিতিশীলতা প্রতিশ্রুতি ও ক্রয় মানদণ্ডের সঙ্গে সংযুক্ত করুন, কারণ সরকারি সংস্থা ক্রমশ পরিবেশগত প্রভাব প্রতিবেদন করতে ও ব্যয় যথার্থ করতে বাধ্য, এবং অমাপা পদচিহ্ন এমন একটি সংখ্যা যা একদিন আপনার কাছে চাওয়া হবে এবং আপনি দিতে পারবেন না। ঠিক করুন পরিবেশগত খরচ মডেল পছন্দের একটি আনুষ্ঠানিক ইনপুট কি না, নয়তো স্বীকার করুন আজ তা নয়।

খাতভেদে দৃষ্টিভঙ্গি

স্টার্টআপ। আপনি একটি শাসন বোর্ডে কর্মী দিতে পারেন না, তাই তবুও গণ্য হওয়া হালকা সংস্করণ করুন। সিদ্ধান্ত গুরুত্বপূর্ণ হলে ব্যাখ্যাযোগ্য মডেল বাছুন, একটি এক-পাতার মডেল কার্ড লিখুন, আপনি মাপতে পারেন এমন গোষ্ঠী জুড়ে ভিন্ন ফলের জন্য পরীক্ষা করুন, এবং আপনি বাড়লে ন্যায্যতা পুনর্বিবেচনা করতে সিদ্ধান্ত লগ করুন। যেকোনো প্রতিকূল সিদ্ধান্তকে একটি সরল কারণ ও একজন মানুষের কাছে একটি পথ দিন। এড়ানো গতি নয়, এটি একটি দায় যা একটি একক অন্যায্য সিদ্ধান্ত সংবাদমাধ্যম বা নিয়ন্ত্রকের কাছে পৌঁছালে আপনি বহন করতে পারবেন না।

ছোট ব্যবসা। কোনো নিবেদিত বিশেষজ্ঞ নেই, তাই দায়িত্বশীল AI-কে একটি কেনার প্রশ্ন গণ্য করুন: ন্যায্যতা পরীক্ষা নথিবদ্ধ করে, মডেল ও ডেটা কার্ড প্রকাশ করে এবং AI ব্যবহার হলে গ্রাহকদের জানাতে দেয় এমন বিক্রেতা পছন্দ করুন। আপনার টুল কোন ব্যক্তিগত ডেটা সংগ্রহ করে এবং তা ব্যবহার করার আইনি ভিত্তি আছে কি না জানুন। একটি ভুল স্বয়ংক্রিয় উত্তর একজন গ্রাহকের ক্ষতি করতে পারে এমন জায়গায় আপনি পরীক্ষা বা ব্যাখ্যা করতে পারেন না এমন টুলে বিশ্বাসের বদলে চক্রে একজন মানুষ রাখুন।

এন্টারপ্রাইজ। কাজ অনেক দল জুড়ে পরিসরে শাসন: প্রতিটি সিস্টেম NIST AI Risk Management Framework, EU AI Act ও ISO/IEC 42001-এ ম্যাপ করুন, ঝুঁকি স্তর ও নামকরা মালিকসহ একটি তালিকা রাখুন, এবং লঞ্চের আগে ও পরে ন্যায্যতা, নিরাপত্তা ও গোপনীয়তা পরীক্ষা দাবি করুন। মডেল ও ডেটা কার্ড, রেড-টিমিং এবং আপিল প্রক্রিয়া প্রমিত করুন যাতে গোষ্ঠীগুলো পুনরাবিষ্কার বন্ধ করে। শাসন, তত্ত্বাবধান ও ব্যাখ্যাযোগ্যতা খরচ সুস্পষ্টভাবে বাজেট করুন, এবং অপরিচালিত AI ঝুঁকিকে কাজ করার অনুমতির হুমকি গণ্য করুন।

সরকার। ক্রয় নিয়ম, স্বচ্ছতা ও জনগণের কাছে জবাবদিহি প্রতিটি পছন্দ আকার দেয়। একটি সরল-ভাষা স্বচ্ছতা নোটিশ প্রকাশ করুন, ডিপ্লয়মেন্টের আগে একটি প্রভাব মূল্যায়ন চালান, এবং একজন নাগরিককে প্রভাবিত করা যেকোনো কাজের জন্য একটি কার্যকর আপিল পথসহ অর্থবহ মানব সিদ্ধান্ত রাখুন। বিক্রেতাদের মডেল সীমাবদ্ধতা প্রকাশ ও ডেটা বহনযোগ্যতা দিতে দাবি করুন, বেআইনি বৈষম্য এড়ান, প্রতিটি সিস্টেমের জন্য একজন জবাবদিহিযোগ্য কর্মকর্তার নাম দিন, এবং প্রধান ওয়ার্কলোডের পরিবেশগত পদচিহ্ন প্রতিবেদন করুন।

উদাহরণ

স্টার্টআপ। একটি প্রাথমিক ক্রেডিট-স্কোরিং ফিচার গড়া একটি ছোট ঋণ স্টার্টআপ একটি শাসন বোর্ডে কর্মী দিতে পারেনি, তাই এটি তবুও গুরুত্বপূর্ণ হালকা সংস্করণ করে। দুই প্রতিষ্ঠাতা একসঙ্গে মডেল অনুমোদন করেন, তারা মাপতে পারত এমন গোষ্ঠী জুড়ে ভিন্ন ফলের জন্য তা পরীক্ষা করেন, এবং এর ডেটা, সীমা ও জানা ঝুঁকি ঢাকা একটি সংক্ষিপ্ত এক-পাতার মডেল কার্ড লেখেন। তারা একটি সরলতর, আরও ব্যাখ্যাযোগ্য মডেল বাছে যাতে যেকোনো প্রত্যাখ্যাত আবেদনকারীকে একটি সরল কারণ ও মানব পর্যালোচনার পথ দিতে পারে, এবং সিদ্ধান্ত লগ করে যাতে তারা বাড়লে ন্যায্যতা পুনর্বিবেচনা করতে পারে।

এন্টারপ্রাইজ। একটি ক্রেডিট মডেল ডিপ্লয় করা একটি ব্যাংক একটি AI শাসন বোর্ড স্থাপন করে, মডেলটি একটি উচ্চ-ঝুঁকি শ্রেণিতে ম্যাপ করে, এবং লঞ্চের আগে ও পরে জনসংখ্যাতাত্ত্বিক গোষ্ঠী জুড়ে ন্যায্যতা পরীক্ষা দাবি করে। এটি মডেলটি একটি মডেল কার্ডে নথিবদ্ধ করে। এটি প্রত্যাখ্যাত আবেদনকারীদের একটি সরল-ভাষা কারণ ও একজন মানব আন্ডাররাইটারের কাছে আপিল দেয়, এবং কারসাজির জন্য সিস্টেম রেড-টিম করে। এটি একটু কম নির্ভুল কিন্তু আরও ব্যাখ্যাযোগ্য মডেল বাছে, কারণ নিয়ন্ত্রকদের কাছে প্রতিটি সিদ্ধান্ত ব্যাখ্যা ও রক্ষা করতে হবে।

সরকার। পরিদর্শন সম্পদ বরাদ্দ করতে সাহায্য করতে AI ব্যবহার করা একটি সরকারি সংস্থা তার কর্মসূচি NIST AI RMF এবং প্রযোজ্য AI আইনের প্রাসঙ্গিক বিধানের সঙ্গে সারিবদ্ধ করে। এটি সিস্টেম কীভাবে কাজ করে ও তার সুরক্ষা ব্যবস্থা বর্ণনা করে একটি স্বচ্ছতা নোটিশ প্রকাশ করে। এটি ডিপ্লয়মেন্টের আগে একটি প্রভাব মূল্যায়ন পরিচালনা করে, একজন নাগরিককে প্রভাবিত করা যেকোনো কাজের জন্য অর্থবহ মানব সিদ্ধান্ত রাখে, এবং একটি আপিল প্রক্রিয়া দেয়। ন্যায্যতা নিরন্তর পর্যবেক্ষিত, ওয়ার্কলোডের পরিবেশগত খরচ প্রতিবেদিত, এবং একজন জবাবদিহিযোগ্য কর্মকর্তা সিস্টেমের উত্তরদায়ী হিসেবে নামকরা।

ব্যবসায়িক যুক্তি: প্রেরণা, ROI ও TCO

দায়িত্বশীল AI মূল্য তৈরির মতোই মূল্য রক্ষা করে। ROI মূলত এড়ানো খরচ: কম বৈষম্য দাবি, নিয়ন্ত্রক জরিমানা ও সুনামের বিপর্যয়; মসৃণ নিরীক্ষা; এবং বেশি ব্যবহারকারী ও জনআস্থা, যা গ্রহণ চালায়। বিশ্বস্ত সিস্টেম আরও দৃঢ়ও, কারণ ন্যায্যতা ও নিরাপত্তা উৎপাদনকারী শৃঙ্খলা ভালো প্রকৌশলও উৎপাদন করে।

TCO-তে শাসন কর্মী, ন্যায্যতা ও নিরাপত্তা পরীক্ষা, নথিকরণ, রেড-টিমিং, তত্ত্বাবধান প্রক্রিয়া এবং ব্যাখ্যাযোগ্যতা বা ন্যায্যতার জন্য কখনো বিসর্জন দেওয়া কর্মক্ষমতা আছে। এটি বিনিয়োগ না করার খরচের বিপরীতে ওজন করুন: আইনি দায়, বাধ্যতামূলক বন্ধ, হারানো জনআস্থা এবং ব্যর্থতার পরে শাসন পুনঃসংযোজনের অনেক বেশি খরচ। নিয়ন্ত্রিত প্রেক্ষাপটে দায়িত্বশীল-AI বিনিয়োগ ক্রমশ অনমনীয়। নেতৃত্বের কাছে ঝুঁকি ব্যবস্থাপনা ও কাজ করার অনুমতি হিসেবে ফ্রেম করে যুক্তি দিন: পরিসরে আদৌ AI ডিপ্লয় করার পূর্বশর্ত।

অ্যান্টি-প্যাটার্ন ও ফাঁদ

• বাদ দিয়ে ন্যায্যতা। একটি মডেল সুরক্ষিত বৈশিষ্ট্য উপেক্ষা করে বলে ন্যায্য ধরে নেওয়া।
• ব্যাখ্যাযোগ্যতা নাট্য। সিদ্ধান্ত আসলে কীভাবে নেওয়া হয় তা প্রতিফলিত করে না এমন ব্যাখ্যা তৈরি।
• রাবার-স্ট্যাম্প তত্ত্বাবধান। অগ্রাহ্য করার প্রকৃত কর্তৃত্ব বা তথ্য ছাড়া নামমাত্র মানব পর্যালোচনা।
• পরের ভাবনা হিসেবে শাসন। নকশা ও ডিপ্লয়মেন্টের পরে নথিকরণ ও পর্যালোচনা জুড়ে দেওয়া।
• আপিল পথ নেই। প্রভাবিত মানুষের স্বয়ংক্রিয় সিদ্ধান্ত বিরোধ করার কোনো উপায় না রাখা।
• অপব্যবহার উপেক্ষা। কেবল অভিপ্রেত ব্যবহার পরীক্ষা করা এবং জেলব্রেক ও নির্যাতন মিস করা।
• পদচিহ্ন অন্ধত্ব। পরিবেশগত খরচ নিয়ে ভাবনা ছাড়া বৃহত্তম মডেলে ডিফল্ট করা।

পরিপক্বতা মডেল

1. সূচনা। কোনো ন্যায্যতা পরীক্ষা, ব্যাখ্যা বা শাসন নেই; দায়িত্ব অসংজ্ঞায়িত; পক্ষপাত, অপব্যবহার ও গোপনীয়তা সমস্যা কেবল ক্ষতির পরে দেখা দেয়, এবং AI সিস্টেম বা তাদের ঝুঁকির কোনো তালিকা নেই।
2. বিকাশ। পৃথক সিস্টেমে কিছু পক্ষপাত পরীক্ষা, মডেল কার্ড ও রেড-টিমিং ঘটে, কিন্তু চর্চা দল জুড়ে অসঙ্গত; তত্ত্বাবধান অ্যাড হক; NIST AI Risk Management Framework ও EU AI Act-এর মতো কাঠামো জানা কিন্তু কেবল আংশিক গৃহীত।
3. মানসম্মতকরণ। শাসন নথিবদ্ধ ও প্রতিষ্ঠান-ব্যাপী প্রয়োগ করা: সিস্টেম স্বীকৃত কাঠামো ও ISO/IEC 42001-এ ম্যাপ করা, প্রতিটির একটি ঝুঁকি স্তর ও একজন নামকরা মালিক আছে, এবং ন্যায্যতা, নিরাপত্তা ও গোপনীয়তা পরীক্ষা, মডেল ও ডেটা কার্ড, আপিল পথ এবং উচ্চ-ঝুঁকি সিস্টেমের জন্য রেড-টিমিং ঐচ্ছিকের বদলে প্রয়োজনীয়।
4. ব্যবস্থাপনা। কর্মসূচি তথ্য দিয়ে মাপা ও নিয়ন্ত্রিত: উপগোষ্ঠী ন্যায্যতা মেট্রিক, নিরাপত্তা ও জেলব্রেক পর্যবেক্ষণ, আপিল পরিমাণ ও বিপরীত হার, তত্ত্বাবধান-অগ্রাহ্য হার, এবং ওয়ার্কলোড পদচিহ্ন ভিত্তিরেখা ও সীমার বিপরীতে অনুসরণ করা; ড্রিফট ও ভিন্ন ফল সংজ্ঞায়িত পদক্ষেপ ট্রিগার করে; যাওয়া-না-যাওয়ার সিদ্ধান্ত আশ্বাসের বদলে প্রমাণের ওপর দাঁড়ায়।
5. সমন্বয়। দায়িত্বশীল AI নিরন্তর উন্নত ও প্রতিষ্ঠান জুড়ে একীভূত: ন্যায্যতা, নিরাপত্তা ও অপব্যবহারের মনিটরিং প্রোডাকশনে চলে, শাসন ডেলিভারিতে গাঁথা, পরিবেশগত খরচ মডেল পছন্দের একটি আনুষ্ঠানিক ইনপুট, এবং আইন, ঝুঁকি ও সামর্থ্য সরলে প্রতিষ্ঠান তার নিয়ন্ত্রণ খাপ খাওয়ায়, দায়িত্ব একক দলের বদলে সবার মালিকানায়।

আলোচনার ভাবনা

• একটি নির্দিষ্ট সিদ্ধান্তের জন্য কোন ন্যায্যতা সংজ্ঞা প্রযোজ্য, এবং কে ঠিক করে?
• ন্যায্যতা বা ব্যাখ্যাযোগ্যতার জন্য কতটা নির্ভুলতা বা কর্মক্ষমতা বিসর্জন গ্রহণযোগ্য?
• মানব তত্ত্বাবধানকে রাবার স্ট্যাম্পের বদলে অর্থবহ করে কী?
• স্বয়ংক্রিয় সিদ্ধান্তের বিরুদ্ধে আপিল কীভাবে ন্যায্য ও সময়োপযোগী হতে নকশা করা উচিত?
• আপনি এখনো কল্পনা করেননি এমন অপব্যবহারের জন্য রেড-টিম কীভাবে করেন?
• পরিবেশগত খরচ কি মডেল পছন্দকে প্রভাবিত করা উচিত, এবং আপনি তা কীভাবে ওজন করবেন?

প্রধান শিক্ষা

• বিশ্বস্ত AI নকশাতেই ন্যায্য, ব্যাখ্যাযোগ্য, জবাবদিহিযোগ্য, নিরাপদ ও গোপনীয়তা-সম্মানকারী।
• ন্যায্যতা ও নিরাপত্তা একবারের পরীক্ষা নয়, নিরন্তর পরিমাপ ও ব্যবস্থাপনা শৃঙ্খলা।
• রক্ষণযোগ্য ও নিরীক্ষণযোগ্য হতে শাসন NIST AI RMF, EU AI Act ও ISO/IEC 42001-এর সঙ্গে সারিবদ্ধ করুন।
• অর্থবহ মানব তত্ত্বাবধান, স্পষ্ট জবাবদিহি এবং আপিলের প্রকৃত অধিকার রাখুন।
• গোপনীয়তার জন্য প্রকৌশল করুন ও অপব্যবহারের বিরুদ্ধে, এবং পরিবেশগত খরচের হিসাব রাখুন।

তথ্যসূত্র ও আরও পড়ার জন্য

• National Institute of Standards and Technology, AI Risk Management Framework (AI RMF 1.0).
• European Union, Artificial Intelligence Act (Regulation on Artificial Intelligence).
• ISO/IEC 42001, Information technology, Artificial intelligence, Management system.
• Solon Barocas, Moritz Hardt ও Arvind Narayanan, Fairness and Machine Learning: Limitations and Opportunities.
• Christoph Molnar, Interpretable Machine Learning.
• Cathy O’Neil, Weapons of Maths Destruction.
• Emma Strubell, Ananya Ganesh ও Andrew McCallum, Energy and Policy Considerations for Deep Learning in NLP.