10.5 নৈতিকতা, জবাবদিহি ও জনস্বার্থ

পরিচিতি ও প্রেরণা

সফটওয়্যার আর মানুষের সিদ্ধান্তের পিছনে বসা নিরপেক্ষ হাতিয়ার নয়। এটি ক্রমশ নিজেই সিদ্ধান্ত। এটি ঠিক করে কে ঋণ পায়, কোন জীবনবৃত্তান্ত একজন নিয়োগকর্তা দেখেন, একটি সুবিধা দাবি কত সময় নেয়, একটি প্রতারণা পতাকা একটি অ্যাকাউন্ট জমায় কি না, এবং কোন তথ্য লক্ষ লক্ষ মানুষের কাছে পৌঁছায়। সফটওয়্যার যখন মানুষের অধিকার, অর্থ, নিরাপত্তা ও মর্যাদা প্রভাবিত করা সিদ্ধান্ত নেয় বা আকার দেয়, যে ইঞ্জিনিয়ার ও প্রতিষ্ঠান তা গড়ে তারা সঠিকতা ও কর্মক্ষমতার বাইরে দায়িত্ব নেয়। এই অধ্যায় সেই দায়িত্বের বিষয়ে: পেশাগত নৈতিকতা, সিস্টেম যা করে তার জন্য জবাবদিহি, ফিচারের বদলে বাধ্যবাধকতা হিসেবে প্রবেশগম্যতা ও সমতা, অ্যালগরিদমিক স্বচ্ছতা, টেকসইতা, এবং ন্যায্যতা ও মর্যাদার সঙ্গে মানুষের সেবা দেওয়ার কর্তব্য।

বড় প্রতিষ্ঠানের জন্য পরিসর ও ক্ষমতা ঝুঁকি বাড়ায়। একটি এন্টারপ্রাইজ বা সরকারি সিস্টেম একজন ব্যক্তিকে প্রভাবিত করে না। এটি লক্ষ লক্ষকে প্রভাবিত করে। একটি একক নকশা পছন্দ (একটি পক্ষপাতদুষ্ট প্রশিক্ষণ সেট, একটি অপ্রবেশগম্য ফর্ম, একটি অস্বচ্ছ স্বয়ংক্রিয় প্রত্যাখ্যান) তাদের প্রত্যেকের ওপর পুনরাবৃত্ত। সরকার বর্ধিত কর্তব্য বহন করে, কারণ তাদের সিস্টেম ঐচ্ছিক নয়। একজন নাগরিক তাদের কর কর্তৃপক্ষ বা সুবিধা সংস্থার জন্য প্রতিযোগী বাছতে পারেন না। নির্দিষ্ট সেবায় রাষ্ট্রের একচেটিয়া মানে একটি খারাপভাবে গড়া সিস্টেম মানুষকে এমন অধিকার অস্বীকার করতে পারে যা তাদের অন্য কোনোভাবে প্রয়োগের উপায় নেই। সেই নাগালের সঙ্গে ন্যায্য, স্বচ্ছ ও জবাবদিহিযোগ্য হওয়ার সংশ্লিষ্ট কর্তব্য আসে।

সফটওয়্যারে নৈতিকতাকে প্রায়ই শেষে জুড়ে দেওয়া নরম বিষয় বা আইনি সম্মতি চেকলিস্টে হস্তান্তর গণ্য করা হয়। এই অধ্যায় উল্টো যুক্তি দেয়। নৈতিক বিবেচনা প্রকৌশল প্রয়োজন। জবাবদিহি নকশায় গাঁথতে হবে, ঘটনার পরে দাবি করা নয়। এবং মর্যাদার সঙ্গে মানুষের সেবা দেওয়া একই সঙ্গে নৈতিক কর্তব্য এবং, সময়ের সঙ্গে, সেই আস্থার ভিত্তি যার ওপর বড় প্রতিষ্ঠান নির্ভর করে।

মূল নীতিসমূহ

• সফটওয়্যার সিদ্ধান্ত নেয়, তাই এর নির্মাতারা দায়িত্ব বহন করে। আপনি সিস্টেম মানুষের সঙ্গে যা করে তার জন্য জবাবদিহিযোগ্য, কেবল তা বিবরণ পূরণ করে কি না নয়।
• প্রবেশগম্যতা ও সমতা বাধ্যবাধকতা, উন্নতি নয়। মানুষকে বাদ দেওয়া একটি ত্রুটি, প্রায়ই আইনি ও নৈতিক ব্যর্থতা।
• পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্তে জবাবদিহি দরকার। একটি স্বয়ংক্রিয় সিদ্ধান্ত দ্বারা প্রভাবিত মানুষ ব্যাখ্যা, প্রতিকার ও মানুষের পর্যালোচনা প্রাপ্য।
• স্বচ্ছতা ডিফল্ট, গোপনীয়তা ব্যতিক্রম। বিশেষত সরকারি খাতে মানুষের অধিকার আছে তাদের সম্পর্কে সিদ্ধান্ত কীভাবে নেওয়া হয় বোঝার।
• ন্যায্যতা ধরে নয়, পরীক্ষা করতে হবে। সিস্টেম তাদের ডেটা ও নকশার পক্ষপাত উত্তরাধিকার পায় ও বাড়ায় যদি না আপনি সুচিন্তিতভাবে পরীক্ষা করেন।
• মর্যাদা একটি নকশা প্রয়োজন। প্রতিটি ব্যবহারকারীকে, দুর্বল ও অ-সাধারণসহ, সম্মান প্রাপ্য একজন মানুষ গণ্য করুন।
• টেকসইতা ও সামাজিক প্রভাব গণনা করে। সফটওয়্যারের শক্তি, সম্পদ ও সামাজিক প্রভাব এর প্রকৃত খরচের অংশ।

সুপারিশ

পেশাগত নৈতিকতা গ্রহণ করুন এবং বাঁচুন

প্রতিষ্ঠানকে পেশাগত আচরণের একটি স্বীকৃত সংহিতায় ভিত্তি দিন, এবং এটি সাজসজ্জার বদলে বাস্তব করুন। ইঞ্জিনিয়ারদের বোঝা উচিত তাদের জনগণের প্রতি বাধ্যবাধকতা আছে, কেবল তাদের নিয়োগকর্তার প্রতি নয়। একটি সিস্টেম মানুষকে ক্ষতি করলে “আমি কেবল বিবরণ অনুসরণ করছিলাম” প্রতিরক্ষা নয়। নৈতিক উদ্বেগ তুলে ধরার প্রকৃত চ্যানেল তৈরি করুন: “আমাদের এটি গড়া উচিত নয়, বা এভাবে গড়া উচিত নয়” বলার একটি উপায় যাতে ক্যারিয়ার-শেষকারী সাহস লাগে না। দলকে পরিণতি ওজন করার শব্দভান্ডার ও অবস্থান দিন। নৈতিক আপত্তিকে বাধার বদলে মূল্যবান সংকেত গণ্য করা নেতৃত্ব দিয়ে তা সমর্থন করুন। নৈতিকতা প্রশিক্ষণ কেবল তখনই সাহায্য করে যখন প্রতিষ্ঠান যা শেখায় তার ওপর দৃশ্যমানভাবে কাজ করে।

প্রবেশগম্যতা ও সমতাকে বাধ্যবাধকতা গণ্য করুন

শুরু থেকে মানব সামর্থ্য ও পরিস্থিতির পূর্ণ পরিসরের জন্য গড়ুন। প্রবেশগম্যতা পরে জুড়ে দেওয়া অনেক ব্যয়বহুল এবং সাধারণত খারাপ। প্রতিষ্ঠিত প্রবেশগম্যতা মান অনুসরণ করুন (যেমন WCAG, ওয়েব কনটেন্ট অ্যাক্সেসিবিলিটি গাইডলাইন), এবং অনেক এখতিয়ারে জনসেবার জন্য সেগুলো আদেশ করা আইনি প্রয়োজন পূরণ করুন। সহায়ক প্রযুক্তি এবং, সর্বোপরি, প্রতিবন্ধিতাসহ প্রকৃত ব্যবহারকারীদের সঙ্গে পরীক্ষা করুন। প্রতিবন্ধিতার বাইরে আপনি সেবা দেওয়া পুরো জনসংখ্যায় সমতা প্রসারিত করুন: কম ব্যান্ডউইথে, পুরনো ডিভাইসে, সীমিত ডিজিটাল সাক্ষরতা-সহ, সংখ্যালঘু ভাষায়, এবং কঠিন জীবন পরিস্থিতিতে থাকা মানুষ। যে সেবা থেকে মানুষ বেরিয়ে আসতে পারে না (বিশেষত সরকারি সেবা) তার জন্য কেবল আত্মবিশ্বাসী, সংযুক্ত, সাধারণ ব্যবহারকারীর জন্য নকশা করা সেবা দিতে ব্যর্থতা, যুক্তিসঙ্গত ডিফল্ট নয়।

অ্যালগরিদমিক জবাবদিহি ও জনসাধারণের স্বচ্ছতা গড়ুন

মানুষ সম্পর্কে পরিণতিমূলক সিদ্ধান্ত নেয় বা উল্লেখযোগ্যভাবে আকার দেয় এমন যেকোনো সিস্টেমের জন্য জবাবদিহি নকশায় গাঁথুন। উচ্চ-ঝুঁকির সিদ্ধান্তে স্বয়ংক্রিয় আউটপুটে অন্ধভাবে স্থগিত না করে মানুষকে অর্থবহভাবে লুপে রাখুন। একজন প্রভাবিত ব্যক্তি বুঝতে পারেন এমন ভাষায় ব্যাখ্যা করতে পারুন কেন একটি সিদ্ধান্ত নেওয়া হয়েছে। তা চ্যালেঞ্জ করার এবং একজন মানুষে পৌঁছানোর প্রকৃত পথ দিন। মোতায়েনের আগে ও চলাকালীন সুরক্ষিত ও দুর্বল গোষ্ঠী জুড়ে পক্ষপাত ও অসম প্রভাব-এর জন্য সিস্টেম পরীক্ষা করুন, এবং সময়ের সঙ্গে ড্রিফটের জন্য পর্যবেক্ষণ করুন। সরকারি খাতে অ্যালগরিদম রেজিস্টারের মতো যন্ত্রের মাধ্যমে অ্যালগরিদমিক সিস্টেম কীভাবে কাজ করে (তাদের উদ্দেশ্য, ডেটা ও যুক্তি একটি উপযুক্ত স্তরে) প্রকাশ করুন, যাতে নাগরিক ও তদারকি সংস্থা সেগুলো যাচাই করতে পারে। অভিপ্রেত ব্যবহার ও জানা সীমা নথিবদ্ধ করুন, যাতে সিস্টেম যেখানে প্রয়োগ করা উচিত নয় সেখানে প্রয়োগ না হয়।

ন্যায্যতা, মর্যাদা ও প্রতিকারের জন্য নকশা করুন

আপনার সিস্টেম যেভাবে মানুষের সঙ্গে অন্যায্য বা মর্যাদাহীন আচরণ করতে পারে তা পরীক্ষা করুন। গাঁথা পক্ষপাতের জন্য প্রশিক্ষণ ডেটা ও নিয়ম খুঁটিয়ে দেখুন। মনে রাখুন কেবল দক্ষতার জন্য অপ্টিমাইজ করা সিস্টেম নিষ্ঠুর হতে পারে: মিথ্যা নেতিবাচক কমাতে সুর করা একটি প্রতারণা ফিল্টার হাজার হাজার নিরপরাধ মানুষের অ্যাকাউন্ট জমাতে পারে, প্রত্যেকে কষ্টে থাকা একজন প্রকৃত ব্যক্তি। প্রভাবিত ব্যক্তির দৃষ্টিকোণ থেকে ব্যর্থতার ক্ষেত্রের জন্য নকশা করুন। সিস্টেম ভুল হলে কী হয়? তারা একজন মানুষ, একটি ব্যাখ্যা এবং একটি প্রতিকার কত সহজে পায়? ব্যক্তিগত ডেটা সম্মান ও সংযমের সঙ্গে সামলান: কেবল যা দরকার তা সংগ্রহ করুন, এবং এর ব্যবহার সম্পর্কে সৎ থাকুন। ত্রুটি, বিলম্ব ও প্রত্যাখ্যানকে প্রান্ত কেস নয়, যে মুহূর্তে মর্যাদা সবচেয়ে ঝুঁকিতে সেই মুহূর্ত গণ্য করুন।

টেকসইতা ও সামাজিক দায়িত্ব বিবেচনা করুন

স্বীকার করুন সফটওয়্যারের ভৌত ও সামাজিক খরচ আছে। ডেটা সেন্টার, প্রশিক্ষণ চালনা ও অদক্ষ সিস্টেম প্রকৃত শক্তি খরচ করে। দক্ষতা আর্থিকের পাশাপাশি পরিবেশগত গুণ। আপনি যা গড়েন তার বিস্তৃততর প্রভাব (শ্রমে, জনসাধারণের আলোচনায়, দুর্বল গোষ্ঠীতে) বিবেচনা করুন, এবং যে কাজের ক্ষতি সুবিধার চেয়ে বেশি তা প্রত্যাখ্যান বা নতুন আকার দিতে ইচ্ছুক থাকুন। যে বড় প্রতিষ্ঠানের সিস্টেম পরিসরে সমাজ আকার দেয় তাদের জন্য সামাজিক দায়িত্ব ব্যবসার পাশে জনহিতৈষিতা নয়। এটি দায়িত্বশীলভাবে গড়ার অংশ, এবং ক্রমশ নিয়ন্ত্রণ ও জনসাধারণের প্রত্যাশার বিষয়।

ট্রেড-অফ: সুবিধা ও অসুবিধা

টানাপোড়েন	এক পক্ষ	অন্য পক্ষ
স্বয়ংক্রিয়তা বনাম মানুষের বিচার	পরিসর, সামঞ্জস্য, গতি, কম খরচ	জবাবদিহি, সূক্ষ্মতা, দয়া, প্রতিকার
স্বচ্ছতা বনাম সুরক্ষা	জনসাধারণের যাচাই, আস্থা, তদারকি	কারসাজির ঝুঁকি, নিরাপত্তা, ডেটার গোপনীয়তা
প্রবেশগম্যতা বিনিয়োগ বনাম গতি	সবাইকে সেবা দেয়; আইনি ও নৈতিক সম্মতি	ধীরতর প্রাথমিক ডেলিভারি; বেশি নকশা পরিশ্রম
দক্ষতা বনাম ন্যায্যতা	অপ্টিমাইজ করা ফল; কম খরচ	লেজে স্বতন্ত্র মানুষের প্রতি নিষ্ঠুরতার ঝুঁকি
ডেটা-সমৃদ্ধ ব্যক্তিগতকরণ বনাম গোপনীয়তা	ভালো সেবা; সাজানো অভিজ্ঞতা	নজরদারি ঝুঁকি; মর্যাদা ও সম্মতি উদ্বেগ
উদ্ভাবন গতি বনাম সতর্কতা	দ্রুততর মূল্য; প্রতিযোগিতামূলক ধার	পরিসরে মোতায়েন করা অপরীক্ষিত ক্ষতি

সবচেয়ে কঠিন ট্রেড-অফ পরিসর বনাম স্বতন্ত্র ন্যায়বিচার। স্বয়ংক্রিয়তা লক্ষ লক্ষ জুড়ে সামঞ্জস্য ও দক্ষতা দেয়। কিন্তু এর ত্রুটিও পরিসরে সরবরাহ হয়, এবং সামগ্রিকের জন্য অপ্টিমাইজ করা সিস্টেম তার লেজের স্বতন্ত্র মানুষের প্রতি নীরবে নির্মম হতে পারে। উত্তর স্বয়ংক্রিয়তা ত্যাগ করা নয়। এটি স্বতন্ত্র ব্যর্থতার ক্ষেত্রের জন্য নকশা করা: যেখানে ঝুঁকি উচ্চ সেখানে মানুষকে লুপে রাখা, ব্যাখ্যা ও প্রতিকারের নিশ্চয়তা দেওয়া, এবং কেবল গড় নয়, সবচেয়ে কম-সেবা পাওয়াদের ওপর সিস্টেমের প্রভাব মাপা। স্বচ্ছতাও একটি প্রকৃত টানাপোড়েন বহন করে, কারণ পূর্ণ উন্মুক্ততা কারসাজি সম্ভব এবং ব্যক্তিগত ডেটা উন্মুক্ত করতে পারে। কিন্তু জনসেবায় উত্তর ডিফল্টে প্রকাশের দিকে জোরালোভাবে ঝুঁকে, অস্বচ্ছতাকে নিরাপদ ডিফল্ট গণ্য করার বদলে কেবল যা সত্যিই রক্ষা করতে হবে তা ছাড় দিয়ে।

আপনার দলের সঙ্গে আলোচনার প্রশ্ন

1. আপনার কোন সিস্টেম মানুষ সম্পর্কে পরিণতিমূলক সিদ্ধান্ত নেয় বা উল্লেখযোগ্যভাবে আকার দেয়, এবং প্রতিটি আজ ব্যাখ্যা, মানুষের পর্যালোচনা ও প্রতিকার দেয় কি? সফটওয়্যার ক্রমশ সিদ্ধান্তই: কে ঋণ পায়, কোন জীবনবৃত্তান্ত দেখা হয়, একটি অ্যাকাউন্ট জমানো হয় কি না, একটি দাবি কত সময় নেয়। প্রতিটি এমন সিস্টেমের জন্য একজন প্রভাবিত ব্যক্তি এমন ব্যাখ্যা যা তিনি বুঝতে পারেন, তা চ্যালেঞ্জ করার একটি প্রকৃত পথ এবং হস্তক্ষেপ করতে পারা একজন মানুষ প্রাপ্য, এবং এন্টারপ্রাইজ বা সরকারি পরিসরে একটি একক নকশা ত্রুটি লক্ষ লক্ষ জুড়ে পুনরাবৃত্ত। প্রমাণ আনুন: আপনার পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্তের তালিকা করুন এবং প্রতিটির জন্য পরীক্ষা করুন একজন ভুলভাবে আচরণ পাওয়া ব্যক্তি আসলে একজন মানুষে পৌঁছাতে এবং একটি সহজ-ভাষার কারণ পেতে পারেন কি না। যেখানে উত্তর না, সেটি ঠিক করার ত্রুটি, পরে যোগ করার ফিচার নয়। যে সেবা থেকে মানুষ বেরিয়ে আসতে পারে না, বিশেষত সরকারি সেবা, তার জন্য এটি সৌজন্যের বদলে বাধ্যবাধকতা।

2. আপনি কি প্রবেশগম্যতাকে প্রকৃত প্রতিবন্ধী ব্যবহারকারীদের সঙ্গে পরীক্ষিত লঞ্চ-আটকানো প্রয়োজন গণ্য করেন, এবং আপনি বর্তমানে কাদের ব্যর্থ করছেন? প্রবেশগম্যতা ও সমতা বাধ্যবাধকতা, এবং মানুষকে বাদ দেওয়া একটি ত্রুটি, প্রায়ই আইনি ও নৈতিক ব্যর্থতা, তবু প্রবেশগম্যতা পরে জুড়ে দেওয়া প্রথম পর্দা থেকে নকশা করার চেয়ে নির্ভরযোগ্যভাবে ধীর, ব্যয়বহুল ও খারাপ। WCAG অনুসরণ করুন, এবং স্বয়ংক্রিয় পরীক্ষা ছাড়িয়ে সহায়ক প্রযুক্তি এবং প্রতিবন্ধিতাসহ প্রকৃত ব্যবহারকারী, সঙ্গে কম ব্যান্ডউইথ, পুরনো ডিভাইস, সংখ্যালঘু ভাষা ও সীমিত ডিজিটাল সাক্ষরতার মানুষের সঙ্গে পরীক্ষা করুন। প্রমাণ আনুন: আপনার সবচেয়ে গুরুত্বপূর্ণ প্রবাহ একটি স্ক্রিন রিডার দিয়ে এবং একটি থ্রটল করা সংযোগে চালান, এবং কোথায় ভাঙে দেখুন। উত্তর ঠিক করবে প্রবেশগম্যতা রিলিজ আটকানো একটি গেট নাকি কখনো না ওঠা একটি ব্যাকলগ আইটেম, এবং যে সেবা থেকে মানুষ বেরিয়ে আসতে পারে না তার জন্য কেবল গেটই রক্ষণযোগ্য। কেবল আত্মবিশ্বাসী, সংযুক্ত, সাধারণ ব্যবহারকারীর জন্য নকশা করা সেবা দিতে ব্যর্থতা।

3. মোতায়েনের আগে ও চলাকালীন পরিণতিমূলক সিস্টেম পক্ষপাত ও অসম প্রভাবের জন্য পরীক্ষা করার আপনার স্থায়ী প্রক্রিয়া কী? সিস্টেম তাদের ডেটা ও নকশার পক্ষপাত উত্তরাধিকার পায় ও বাড়ায় যদি না আপনি সুচিন্তিতভাবে পরীক্ষা করেন, এবং কেউ অন্যায্যতার অভিপ্রায় করেনি বলে ন্যায্যতা ধরে নেওয়া অবহেলায় পক্ষপাত। কেবল মিথ্যা নেতিবাচক কমাতে সুর করা একটি প্রতারণা ফিল্টার হাজার হাজার নিরপরাধ অ্যাকাউন্ট জমাতে পারে, প্রত্যেকে কষ্টে থাকা একজন প্রকৃত ব্যক্তি, তাই ন্যায্যতা বিবেচনা ছাড়া অপ্টিমাইজ করা দক্ষতা নীরবে নির্মম হতে পারে। প্রমাণ আনুন: মানুষকে প্রভাবিত করা প্রতিটি মডেলের জন্য সুরক্ষিত ও দুর্বল গোষ্ঠী জুড়ে অসম-প্রভাব পরীক্ষা, নথিবদ্ধ ডেটা ও জানা সীমা, এবং জনসংখ্যা বদলালে পুনঃপরীক্ষা করা ড্রিফট মনিটরিং দেখান। উত্তর পক্ষপাত পরীক্ষাকে একবারের প্রাক-লঞ্চ চেকবক্সের বদলে রুটিন ও নিরন্তর করা উচিত, এবং শুধু সামগ্রিক নির্ভুলতা নয়, স্বতন্ত্র মানুষের ক্ষতি ওজন করতে আপনার অপ্টিমাইজেশন লক্ষ্য বদলানো উচিত। প্রভাবিত ব্যক্তির দৃষ্টিকোণ থেকে ব্যর্থতার ক্ষেত্রের জন্য নকশা করুন।

4. একজন ইঞ্জিনিয়ার যখন বিশ্বাস করেন আপনার কিছু গড়া উচিত নয়, বা এভাবে গড়া উচিত নয়, তখন সেই আপত্তির আসলে কী হয়? নৈতিকতা বাস্তব হয় কেবল তখনই যখন “আমাদের এটি পাঠানো উচিত নয়” এমন একটি বাক্য যা কেউ ক্যারিয়ার শেষ না করে বলতে পারে, এবং পরিসরে ক্ষতির সবচেয়ে কাছের ব্যক্তি প্রায়ই ঘরের সবচেয়ে জুনিয়র। প্রতিদ্বন্দ্বী চাপ ডেলিভারি: একটি উত্থাপিত আপত্তি একটি রোডম্যাপ ধীর করে, এবং সময়সীমার অধীন নেতারা তা মূল্যবান সংকেতের বদলে বাধা গণ্য করতে পারেন। প্রমাণ আনুন: একজন ইঞ্জিনিয়ার যে চ্যানেল ব্যবহার করবেন তার সুনির্দিষ্ট নাম দিন, গত বছরে কয়টি উদ্বেগ তোলা হয়েছিল গুনুন, এবং ফলে কী বদলেছিল ট্রেস করুন, কারণ যে চ্যানেল কখনো কাজ থামায়নি বা নতুন আকার দেয়নি তা সাজসজ্জা। একটি এন্টারপ্রাইজ বা সরকারি সংস্থার জন্য চ্যানেলটি একজন নামকরা মালিক ও একটি নথিবদ্ধ পর্যালোচনায় বাঁধুন, কারণ যে আপত্তি শুনতে কেউ বাধ্য নয় তা তুলতে কেউ ঝুঁকি নেবে না, এবং ক্ষতি তখন প্রথমে একটি জনসাধারণের কেলেঙ্কারি হিসেবে ভেসে ওঠে।

5. আপনি কি আপনার চালানো জিনিসের পরিবেশগত ও সামাজিক খরচ জানেন, এবং যে কাজের ক্ষতি সুবিধার চেয়ে বেশি তা কি আপনি নতুন আকার দিতেন বা প্রত্যাখ্যান করতেন? সফটওয়্যারের ভৌত ও সামাজিক খরচ আছে: ডেটা সেন্টার, প্রশিক্ষণ চালনা ও অদক্ষ সিস্টেম প্রকৃত শক্তি খরচ করে, এবং শ্রম, জনসাধারণের আলোচনা ও দুর্বল গোষ্ঠীর ওপর দ্বিতীয়-ক্রমের প্রভাব একটি সিস্টেমের প্রকৃত খরচের অংশ। টানাপোড়েন হলো এই খরচ মাপা ও কাটা ফিচার গতির সঙ্গে প্রতিযোগিতা করে, এবং ক্ষতিকর কাজ ফিরিয়ে দেওয়া সেই রাজস্ব ছাড়ে যার জন্য কেউ জবাবদিহিযোগ্য। প্রমাণ আনুন: আপনার সবচেয়ে বড় সিস্টেমের শক্তি বা কম্পিউট পদচিহ্ন, নিম্নধারা প্রভাব কে বহন করে তার একটি খোলামেলা পাঠ, এবং এই ভিত্তিতে আপনি কাজ নতুন আকার দিয়েছেন বা প্রত্যাখ্যান করেছেন এমন অন্তত একটি সুনির্দিষ্ট ঘটনা। এন্টারপ্রাইজ বা সরকারি পরিসরে, যেখানে আপনার সিস্টেম সমাজ আকার দেয়, এটিকে দায়িত্বশীলভাবে গড়ার অংশ এবং ক্রমশ নিয়ন্ত্রণ ও জনসাধারণের প্রত্যাশার বিষয় গণ্য করুন, ব্যবসার পাশে জুড়ে দেওয়া জনহিতৈষিতা নয়।

6. একজন বহিরাগত আপনার পরিণতিমূলক সিস্টেম কীভাবে সিদ্ধান্ত নেয় সে সম্পর্কে আসলে কতটা জানতে পারেন, এবং প্রকাশ কি আপনার ডিফল্ট নাকি ব্যতিক্রম? স্বচ্ছতা সেই জায়গা যেখানে জনআস্থা অর্জিত বা হারানো হয়, কারণ মানুষের অধিকার আছে তাদের সম্পর্কে সিদ্ধান্ত কীভাবে নেওয়া হয় বোঝার, এবং সরকারি খাতে সেই অধিকার প্রায়ই আইন। প্রকৃত পাল্টা চাপ হলো পূর্ণ উন্মুক্ততা কারসাজি সম্ভব করতে এবং ব্যক্তিগত ডেটা উন্মুক্ত করতে পারে, তাই প্রকৃত প্রশ্ন প্রকাশ করবেন কি না নয়, রেখা কোথায় টানবেন। প্রমাণ আনুন: প্রতিটি পরিণতিমূলক সিস্টেমের জন্য দেখান আপনি কী প্রকাশ করেন (উদ্দেশ্য, ডেটা ও যুক্তি একটি উপযুক্ত স্তরে), কী আটকে রাখেন ও সুনির্দিষ্ট কারণ, এবং যেকোনো প্রযুক্তিগত বর্ণনার পাশে একটি সহজ-ভাষার বর্ণনা আছে কি না। একটি সরকারি সংস্থার জন্য অ্যালগরিদম রেজিস্টারের মতো একটি যন্ত্র সংকীর্ণ, রক্ষণযোগ্য ছাড়ের বিপরীতে ওজন করুন, এবং পরীক্ষা করুন আপনার প্রকাশ প্রকৃতপক্ষে ব্যাখ্যা করে নাকি প্রযুক্তিগতভাবে জানায় যখন একজন প্রভাবিত ব্যক্তিকে কিছুই বলে না।

খাতভেদে দৃষ্টিভঙ্গি

স্টার্টআপ। মুষ্টিমেয় মানুষ ও সামান্য রানওয়েতে আপনি একটি নৈতিকতা বোর্ডে কর্মী দিতে পারেন না, তাই সস্তা, উচ্চ-লিভারেজ অভ্যাস পণ্যে গাঁথুন: প্রতিটি স্বয়ংক্রিয় প্রত্যাখ্যানে একটি সহজ-ভাষার কারণ, একজন মানুষে পৌঁছানোর এক-ক্লিক পথ, এবং প্রথম পর্দা থেকে প্রবেশগম্য ফর্ম কারণ পরে সেগুলো পুনঃসংযোজন ধীরতর ও খারাপ। যেখানে আপনার সফটওয়্যার একজন ব্যক্তির সম্পর্কে একটি পরিণতিমূলক সিদ্ধান্ত নেয় সেই একটি জায়গা বাছুন এবং ক্ষতি বড় করার আগে সেখানে ব্যাখ্যা ও প্রতিকার সঠিক করুন। ন্যায্যতা ও মর্যাদাকে পরের পালিশের বদলে লঞ্চ প্রয়োজন গণ্য করা এখন সামান্য খরচ করে এবং আপনি সামর্থ্য দিতে পারেন না এমন একটি সুনাম এড়ায়।

ছোট ব্যবসা। আপনার সম্ভবত কোনো প্রবেশগম্যতা বা ন্যায্যতা বিশেষজ্ঞ নেই আর বাজেট কম, তাই আপনি কেনা টুলে গাঁথা নৈতিকতার ওপর ঝুঁকুন: WCAG পূরণকারী বিক্রেতা বাছুন, তাদের স্বয়ংক্রিয় ফিচার কীভাবে সিদ্ধান্ত নেয় নথিবদ্ধ করতে বলুন, এবং আপনাকে লুপে একজন মানুষ রাখতে দিন। আপনার নিজস্ব কর্তব্যকে ডেটা-স্বাস্থ্যবিধি ও মর্যাদার প্রশ্ন ফ্রেম করুন: আপনি কোন ব্যক্তিগত ডেটা ধরেন জানা, কেবল যা দরকার সংগ্রহ করা, এবং একটি ভুল স্বয়ংক্রিয় উত্তর যেন একজন গ্রাহককে আপনার কাছে পৌঁছানোর উপায় ছাড়া আটকে না ফেলে নিশ্চিত করা। অভিযোগের পরে ফাঁক আবিষ্কার না করে স্বাক্ষরের আগে সরবরাহকারীদের তাদের প্রবেশগম্যতা ও পক্ষপাত অবস্থান দেখাতে বলুন।

এন্টারপ্রাইজ। পরিসরে সমস্যা অনেক দল জুড়ে শাসন: কী পরিণতিমূলক সিদ্ধান্ত গণ্য তার একটি ভাগ করা মান, সামঞ্জস্যপূর্ণ প্রবেশগম্যতা ও পক্ষপাত পরীক্ষা গেট, এবং যেখানে থাকা দরকার সেখানে ব্যাখ্যা, মানুষের পর্যালোচনা ও প্রতিকার আছে প্রমাণ করা একটি নিরীক্ষা পথ। কিছুই না বদলানো প্রশিক্ষণের বদলে রিলিজ আটকানো একটি নৈতিক পর্যালোচনা দাঁড় করান, প্রবেশগম্যতা ও অসম-প্রভাব কাজ স্পষ্টভাবে বাজেট করুন, এবং ড্রিফটের জন্য মোতায়েন করা মডেল পর্যবেক্ষণ করুন যাতে ন্যায্যতা একবারের চেকবক্সের বদলে নিরন্তর। একটি একক নকশা ত্রুটিকে লক্ষ লক্ষ জুড়ে পুনরাবৃত্ত গণ্য করুন, কারণ আপনার নাগালে তাই।

সরকার। ক্রয় নিয়ম, স্বচ্ছতা কর্তব্য এবং জনগণের কাছে জবাবদিহি প্রতিটি পছন্দ আকার দেয়, এবং নাগরিকরা একজন প্রতিযোগীর কাছে গিয়ে আপনার সেবা থেকে বেরিয়ে আসতে পারেন না। অ্যালগরিদম রেজিস্টারের মতো যন্ত্রের মাধ্যমে পরিণতিমূলক সিস্টেম কীভাবে কাজ করে প্রকাশ করুন, চুক্তিতে বিক্রেতাদের ডেটা চর্চা ও জানা সীমা প্রকাশ করতে বাধ্য করুন, এবং প্রতিটি জনসেবা প্রতিবন্ধী ব্যবহারকারী, কম-ব্যান্ডউইথ সংযোগ ও সংখ্যালঘু-ভাষার বক্তাদের সঙ্গে পরীক্ষিত প্রবেশগম্যতা মানে গড়ুন। প্রতিটি পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্তে মানুষের পর্যালোচনার অধিকার ও একটি সহজ-ভাষার ব্যাখ্যার নিশ্চয়তা দিন, এবং একজন জবাবদিহিযোগ্য কর্মকর্তার হাতে থাকতে হবে এমন চূড়ান্ত নির্ধারণ সম্পূর্ণ স্বয়ংক্রিয়তার বাইরে রাখুন।

উদাহরণ

স্টার্টআপ। একটি স্বয়ংক্রিয় ঋণ ফিচার গড়া তিনজনের একটি ফিনটেক স্টার্টআপ ঠিক করে ন্যায্যতা ও মর্যাদা পরের পালিশ নয়, প্রয়োজন। লঞ্চের আগে তারা যে গোষ্ঠী মাপতে পারে তাদের জুড়ে অসম প্রভাবের জন্য মডেল পরীক্ষা করে, এটি যে ডেটা ব্যবহার করে এবং কোথায় বিশ্বাস করা উচিত নয় তা লিখে রাখে, এবং নিশ্চিত করে প্রতিটি প্রত্যাখ্যাত আবেদনকারী একটি সহজ-ভাষার কারণ এবং একজন মানুষ প্রতিষ্ঠাতার কাছে পৌঁছানোর এক-ক্লিক পথ পায়। তারা সাইনআপ প্রবাহ প্রথম পর্দা থেকে প্রবেশগম্যতা মানে গড়ে, কারণ পরে পুনঃসংযোজন ধীরতর ও খারাপ হতো, এবং একটি দ্রুত ওভাররাইড চ্যানেল যোগ করে যাতে ভুলভাবে জমানো অ্যাকাউন্ট একজন প্রকৃত ব্যক্তিকে আটকে না রেখে মিনিটে মুক্ত করা যায়।

এন্টারপ্রাইজ। স্বয়ংক্রিয় ক্রেডিট সিদ্ধান্ত মোতায়েন করা একটি ব্যাংক ন্যায্যতাকে প্রকৌশল প্রয়োজন গণ্য করে। লঞ্চের আগে এটি সুরক্ষিত গোষ্ঠী জুড়ে অসম প্রভাবের জন্য মডেল পরীক্ষা করে, ডেটা ও তার সীমা নথিবদ্ধ করে, এবং একটি ব্যাখ্যা সুবিধা গড়ে, তাই প্রতিটি প্রত্যাখ্যাত আবেদনকারী একটি বোঝার মতো কারণ এবং মানুষের পর্যালোচনার একটি স্পষ্ট পথ পায়। একটি মনিটরিং প্রক্রিয়া ড্রিফট দেখে এবং জনসংখ্যা বদলালে পক্ষপাতের জন্য পুনঃপরীক্ষা করে। প্রতারণা-শনাক্তকরণ সিস্টেম বৈধ অ্যাকাউন্টের বড় সংখ্যা জমাতে শুরু করলে ব্যাংক একটি দ্রুত মানুষ-পর্যালোচনা চ্যানেল যোগ করে এবং গ্রাহকের ক্ষতি ওজন করতে তার অপ্টিমাইজেশন লক্ষ্য বদলায়। এটি ভুলভাবে চিহ্নিত গ্রাহকদের কষ্টকে একটি গ্রহণযোগ্য পরিসংখ্যানের বদলে প্রকৃত খরচ গণ্য করেছে।

সরকার। একটি শহর সরকার একটি অ্যালগরিদম রেজিস্টার প্রকাশ করে। এটি শহর জনসেবায় যে স্বয়ংক্রিয় সিস্টেম ব্যবহার করে তা তালিকাভুক্ত করে, এবং প্রতিটি সিস্টেমের উদ্দেশ্য, নির্ভর করা ডেটা এবং সিদ্ধান্ত কীভাবে চ্যালেঞ্জ করা যায় বর্ণনা করে। শহরের ডিজিটাল সেবা প্রবেশগম্যতা মানে গড়া এবং প্রতিবন্ধী ব্যবহারকারী, কম-ব্যান্ডউইথ সংযোগ ও সংখ্যালঘু-ভাষার বক্তাদের সঙ্গে পরীক্ষিত, এই নীতিতে যে মানুষ বেরিয়ে আসতে পারে না এমন সেবা সবার জন্য কাজ করতে হবে। প্রতিটি পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্ত মানুষের পর্যালোচনার অধিকার ও একটি সহজ-ভাষার ব্যাখ্যা বহন করে, তাই রাষ্ট্রের সফটওয়্যার তাদের জীবন সম্পর্কে কিছু ঠিক করলে নাগরিকরা মর্যাদা ও প্রতিকার দুটিই রাখে।

ব্যবসায়িক যুক্তি: প্রেরণা, ROI ও TCO

নৈতিকতা ও জবাবদিহির ব্যবসায়িক যুক্তি আস্থা, ঝুঁকি ও নাগালের ওপর দাঁড়ায়। আস্থা টেকসই সম্পদ। যে প্রতিষ্ঠানের সিস্টেম মানুষের সঙ্গে ন্যায্য ও স্বচ্ছভাবে আচরণ করে তারা সেই আস্থা অর্জন করে যা মানুষকে তা ব্যবহার করতে ইচ্ছুক করে, এবং বিশেষত সরকারি প্রতিষ্ঠান বৈধতার ওপর নির্ভর করে যা একটি একক উচ্চ-প্রোফাইল অন্যায্য সিস্টেম চূর্ণ করতে পারে। ঝুঁকি নিকট-মেয়াদি চালক। পক্ষপাতদুষ্ট, অপ্রবেশগম্য বা অস্বচ্ছ সিস্টেম ক্রমশ নিয়ন্ত্রক জরিমানা, মামলা এবং সুনামের ক্ষতি বহন করে যা দায়িত্বশীলভাবে গড়ার খরচকে ছোট করে দিতে পারে। নাগাল উভয়কে বাড়ায়। এন্টারপ্রাইজ বা সরকারি পরিসরে একটি একক নৈতিক ব্যর্থতা লক্ষ লক্ষ জুড়ে পুনরাবৃত্ত হয় এবং শিরোনাম হয়।

গ্রহণ খরচ প্রকৃত। প্রবেশগম্যতা কাজ, পক্ষপাত পরীক্ষা, ব্যাখ্যা ও প্রতিকার যন্ত্র, মানুষ-লুপে পর্যালোচনা, এবং পরিণতি বিবেচনার নকশা সময় সবই, বিশেষত প্রথম দিকে, প্রচেষ্টা যোগ করে। গ্রহণ না করার খরচ বড় এবং ক্রমশ ঐচ্ছিক নয়: বৈষম্য দায়, আপনি সেবা দিতে বাধ্য জনসংখ্যার বড় অংশ বাদ দেওয়া, লঞ্চের পরে প্রবেশগম্যতা ও জবাবদিহি পুনঃসংযোজনের খরচ, এবং আস্থার ক্ষয় যা একবার হারালে পুনর্নির্মাণ ব্যয়বহুল ও ধীর। নেতৃত্বের কাছে যুক্তি দিতে নৈতিকতাকে পরার্থপরতা নয়, ঝুঁকি ব্যবস্থাপনা ও আস্থা-গড়া হিসেবে ফ্রেম করুন। অ্যালগরিদমিক জবাবদিহি ও প্রবেশগম্যতা ঘিরে আঁটো হওয়া নিয়ন্ত্রক পরিবেশ নোট করুন। মালিকানার মোট খরচে জোর দিন: শুরু থেকে দায়িত্বশীলভাবে গড়া ইতিমধ্যে পরিসরে মানুষকে ক্ষতি করা সিস্টেম প্রতিকারের চেয়ে অনেক সস্তা। সরকারি প্রতিষ্ঠানের জন্য সবচেয়ে সরল যুক্তি যোগ করুন: নাগরিকদের ন্যায্যভাবে সেবা দেওয়া মিশন, এর ওপর সীমাবদ্ধতা নয়।

অ্যান্টি-প্যাটার্ন ও ফাঁদ

• চেকবক্স হিসেবে নৈতিকতা। একটি একবারের পর্যালোচনা বা প্রশিক্ষণ যা সিস্টেম আসলে কীভাবে গড়া হয় সে সম্পর্কে কিছুই বদলায় না।
• প্রবেশগম্যতা পুনঃসংযোজন। প্রবেশগম্যতাকে দেরিতে অ্যাড-অন গণ্য করা, নকশায় গাঁথার চেয়ে খারাপ ও ব্যয়বহুল ফল দিয়ে।
• জবাবদিহিহীন অ্যালগরিদম। কোনো ব্যাখ্যা, মানুষের পর্যালোচনা বা চ্যালেঞ্জের পথ ছাড়া পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্ত।
• নিষ্ঠুরতায় অপ্টিমাইজ করা। সিস্টেম নীরবে তার লেজের মানুষদের নির্মমভাবে আচরণ না করা পর্যন্ত কেবল সামগ্রিক দক্ষতার জন্য সুর করা।
• অবহেলায় পক্ষপাত। কখনো পরীক্ষা না করে একটি সিস্টেম ন্যায্য ধরে নেওয়া কারণ কেউ অন্যায্যতার অভিপ্রায় করেনি।
• “কম্পিউটার না বলছে।” সামনের সারির কর্মী ও ব্যবহারকারীদের একটি স্বয়ংক্রিয় সিদ্ধান্ত ভুল দেখতে পেয়েও ওভাররাইড বা প্রশ্ন করার সামর্থ্য নেই।
• আত্মবিশ্বাসী ব্যবহারকারীর জন্য নকশা। সাধারণ, সংযুক্ত, সাক্ষর ব্যবহারকারীর জন্য গড়া এবং বাকি সবাইকে বাদ দেওয়া, মানুষ বেরিয়ে আসতে পারে না এমন সেবার জন্য অরক্ষণীয়।
• স্বচ্ছতা নাট্য। দুর্ভেদ্য প্রকাশ প্রকাশ করা যা প্রযুক্তিগতভাবে জানায় কিন্তু প্রকৃতপক্ষে কিছুই ব্যাখ্যা করে না।

পরিপক্বতা মডেল

স্তর 1: সূচনা। নৈতিকতা অমীমাংসিত বা কেলেঙ্কারির পরে কেবল প্রতিক্রিয়াশীল। প্রবেশগম্যতা উপেক্ষিত বা ন্যূনতম। স্বয়ংক্রিয় সিদ্ধান্ত অস্বচ্ছ, কোনো ব্যাখ্যা ও কোনো প্রতিকার ছাড়া। পক্ষপাত কখনো পরীক্ষিত নয়, এবং টেকসইতা ও সামাজিক প্রভাব বিবেচিত নয়।

স্তর 2: বিকাশ। একটি আচরণ সংহিতা আছে এবং কিছু প্রবেশগম্যতা মান অনুসরণ করা হয়, প্রায়ই দেরিতে। উচ্চ-প্রোফাইল স্বয়ংক্রিয় সিদ্ধান্ত কিছু মানুষের তদারকি পায়, কিন্তু বেশিরভাগ পায় না। পক্ষপাত মাঝে মাঝে পরীক্ষিত, উদ্বেগ একটি দুর্বল প্রক্রিয়ার মাধ্যমে তোলা যায়, এবং চর্চা এক দল থেকে অন্যটিতে ব্যাপকভাবে ভিন্ন।

স্তর 3: মানসম্মতকরণ। নৈতিক পর্যালোচনা উন্নয়ন প্রক্রিয়ার একটি নথিবদ্ধ অংশ এবং প্রতিষ্ঠান জুড়ে প্রয়োগ করা। প্রবেশগম্যতা নকশায় গাঁথা এবং প্রকৃত ব্যবহারকারীদের সঙ্গে পরীক্ষিত। পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্ত ডিফল্টে ব্যাখ্যা, মানুষের পর্যালোচনা ও প্রতিকার বহন করে। পক্ষপাত পরীক্ষা ও ড্রিফট মনিটরিং রুটিন, সরকারি-খাতের সিস্টেম কীভাবে কাজ করে প্রকাশ করে, এবং টেকসইতা একটি সাধারণ মানে মাপা হয়।

স্তর 4: ব্যবস্থাপনা। প্রতিষ্ঠান ভিত্তিরেখার বিপরীতে ডেটা দিয়ে তার নৈতিক অবস্থান মাপে ও নিয়ন্ত্রণ করে: প্রবেশগম্যতা সামঞ্জস্য স্কোর, সময়ের সঙ্গে সুরক্ষিত গোষ্ঠী জুড়ে অনুসরণ করা অসম-প্রভাব মেট্রিক, বিতর্কিত সিদ্ধান্তের প্রতিকার হার ও মানুষে পৌঁছানোর সময়, প্রকাশিত নথি বহনকারী পরিণতিমূলক সিস্টেমের অংশ, এবং প্রধান সিস্টেমের শক্তি বা কম্পিউট পদচিহ্ন। মেট্রিক রিলিজ গেট করে, সীমা ভাঙন তদন্ত ট্রিগার করে, এবং নেতারা চর্চা অনুসরণ করা হচ্ছে ধরে নেওয়ার বদলে একটি নির্দিষ্ট ছন্দে সংখ্যা পর্যালোচনা করেন।

স্তর 5: সমন্বয়। দায়িত্ব প্রতিষ্ঠান কীভাবে গড়ে ও খাপ খায় তাতে গাঁথা। প্রবেশগম্যতা ও সমতা পরিবেশিত পুরো জনসংখ্যার জন্য যাচাই করা অনমনীয় ডিফল্ট, অ্যালগরিদমিক জবাবদিহি (স্বচ্ছতা, ন্যায্যতা পরীক্ষা, প্রতিকার, মানুষের তদারকি) মান এবং নিরন্তর পর্যবেক্ষিত, এবং নৈতিক উদ্বেগ মূল্যবান সংকেত যা কাজ নতুন আকার দেয় বা থামায়। প্রতিষ্ঠান আস্থা, ন্যায্যতা ও মর্যাদাকে তার মিশনের মূল গণ্য করে, নৈতিকতা পণ্য, ঝুঁকি ও ক্রয় সিদ্ধান্তের সঙ্গে একীভূত করে, এবং প্রত্যাশা ও প্রমাণ বিবর্তিত হলে সিস্টেম পুনঃপরিসর বা অবসর দেয়।

আলোচনার ভাবনা

• কোন সিদ্ধান্ত সম্পূর্ণ স্বয়ংক্রিয় হতে পারে এবং কোনগুলোতে একজন মানুষকে অর্থবহভাবে লুপে রাখতে হবে তার মধ্যে রেখা কোথায়?
• কতটা অ্যালগরিদমিক স্বচ্ছতা যথেষ্ট, এবং কারসাজি সম্ভব না করে বা গোপনীয়তা না ভেঙে আপনি অর্থবহভাবে কীভাবে প্রকাশ করেন?
• একটি স্বয়ংক্রিয় সিস্টেম কাউকে ক্ষতি করলে কে জবাবদিহিযোগ্য: ইঞ্জিনিয়ার, ব্যবস্থাপক, প্রতিষ্ঠান, নাকি বিক্রেতা?
• আপনি কীভাবে একটি নৈতিক আপত্তি তোলা ক্যারিয়ার-সীমিতকারীর বদলে প্রকৃতপক্ষে নিরাপদ করেন?
• যে ব্যবহারকারীদের জন্য আপনি নকশা করেননি তাদের প্রতি একটি প্রতিষ্ঠানের কী বাধ্যবাধকতা, এবং সমতা কতদূর প্রসারিত হতে হবে?
• কম্পিউটেশনের পরিবেশগত খরচ স্থাপত্য ও পণ্য সিদ্ধান্তে কীভাবে মিশবে?

প্রধান শিক্ষা

• সফটওয়্যার যখন মানুষ সম্পর্কে পরিণতিমূলক সিদ্ধান্ত নেয়, এর নির্মাতারা এটি যা করে তার জন্য দায়ী, কেবল তা বিবরণ পূরণ করে কি না নয়।
• প্রবেশগম্যতা ও সমতা বাধ্যবাধকতা এবং অনুপস্থিত থাকলে ত্রুটি, ঐচ্ছিক উন্নতি নয়, বিশেষত মানুষ বেরিয়ে আসতে পারে না এমন সেবার জন্য।
• পরিণতিমূলক স্বয়ংক্রিয় সিদ্ধান্তে ব্যাখ্যা, মানুষের পর্যালোচনা, প্রতিকার ও চলমান পক্ষপাত পরীক্ষা দরকার; জবাবদিহি পরে দাবি না করে নকশায় গাঁথুন।
• ন্যায্যতা বিবেচনা ছাড়া অপ্টিমাইজ করা দক্ষতা নীরবে নির্মম হতে পারে; কেবল সামগ্রিক নয়, স্বতন্ত্র ব্যর্থতার ক্ষেত্রের জন্য নকশা করুন।
• সরকারি খাতে অ্যালগরিদমিক সিস্টেম কীভাবে কাজ করে সে সম্পর্কে স্বচ্ছতা ডিফল্ট হওয়া উচিত, গোপনীয়তা সংকীর্ণ ব্যতিক্রম।
• ব্যবসায়িক যুক্তি আস্থা ও ঝুঁকি: শুরু থেকে দায়িত্বশীলভাবে গড়া পরিসরে ক্ষতির প্রতিকারের চেয়ে অনেক সস্তা, এবং সরকারি প্রতিষ্ঠানের জন্য ন্যায্যতাই মিশন।

তথ্যসূত্র ও আরও পড়ার জন্য

• ACM/IEEE-CS, Software Engineering Code of Ethics and Professional Practice
• ACM, Code of Ethics and Professional Conduct
• Cathy O’Neil, Weapons of Maths Destruction
• Virginia Eubanks, Automating Inequality
• Safiya Umoja Noble, Algorithms of Oppression
• Ruha Benjamin, Race After Technology
• Batya Friedman and David G. Hendry, Value Sensitive Design
• World Wide Web Consortium (W3C), Web Content Accessibility Guidelines (WCAG)
• NIST, AI Risk Management Framework
• OECD, Principles on Artificial Intelligence
• European Union, General Data Protection Regulation (GDPR) and the AI Act
• UK Government, Data Ethics Framework and the Algorithmic Transparency Recording Standard