प्रोडक्शन में आपके द्वारा डाली गई कोड की हर एक लाइन एक एल्गोरिदम को सिखाती है कि उसे कैसे व्यवहार करना है। वह व्यवहार लहरों की तरह बाहर फैलता है। यह निर्धारित

आपके द्वारा प्रोडक्शन में डाली गई कोड की हर एक लाइन एक एल्गोरिदम को सिखाती है कि उसे कैसा व्यवहार करना है। वह व्यवहार बाहर की ओर फैलता है। यह तय करता है कि किसका लोन मंजूर होगा, किस मेडिकल स्कैन को प्राथमिकता मिलेगी, और उपयोगकर्ता के फीड में क्या कंटेंट होगा। एक डेवलपर के रूप में, आप केवल फीचर्स ही नहीं जोड़ रहे हैं। आप यह आकार दे रहे हैं कि ये सिस्टम मानव जीवन के साथ कैसे इंटरैक्ट करते हैं।

वह जिम्मेदारी केवल कार्यात्मक (functional) सॉफ्टवेयर शिप करने से कहीं अधिक गहरी है। तकनीक बनाना ही काफी नहीं है। आपको इसे जिम्मेदारी से बनाना होगा। नैतिक एल्गोरिदम केवल बेंचमार्क पर अच्छा प्रदर्शन ही नहीं करते। वे सक्रिय रूप से नुकसान को रोकते हैं, और समय के साथ, वे उन लोगों का विश्वास जीतते हैं जो उनका उपयोग करते हैं। वह विश्वास नाजुक होता है। ट्रेनिंग पाइपलाइन में एक लापरवाह चुनाव या एक अस्पष्ट प्राइवेसी सेटिंग इसे तोड़ सकती है। आपका कोड समाज को आकार देता है। आपके निर्णयों का महत्व होना चाहिए।

आप जो बनाते हैं उसका महत्व

डेवलपर्स AI का भविष्य बनाते हैं। आप तय करते हैं कि ये सिस्टम कैसे व्यवहार करेंगे। जब आप डीबगिंग मोड में गहराई से डूबे होते हैं, loss curves और latency metrics को देख रहे होते हैं, तो उस शक्ति को भूलना आसान है। लेकिन जो मॉडल आप ट्रेन करते हैं, वे इंफ्रास्ट्रक्चर बन जाते हैं। वे हायरिंग निर्णयों, क्रेडिट स्कोरिंग, आपराधिक जोखिम मूल्यांकन और शैक्षिक प्लेसमेंट को प्रभावित करते हैं।

इसे स्ट्रक्चरल इंजीनियरिंग की तरह समझें। एक पुल बनाने वाला व्यक्ति केवल यह नहीं कह सकता कि सामग्री उपलब्ध थी और गणित ठीक लग रहा था। उन्हें यह पूछना होगा कि क्या डिज़ाइन वास्तविक दुनिया के तनाव में टिकता है, क्या उस पर चलने वाले लोग सुरक्षित हैं। यही मानक यहाँ भी लागू होता है। एक एल्गोरिदम जो नियंत्रित प्रयोग में पूरी तरह से काम करता है, वह वास्तविक मानवीय वास्तविकता से मिलने पर अभी भी वास्तविक नुकसान पहुंचा सकता है। उस नुकसान को रोकना काम का हिस्सा है। यह कोई बाद का विचार (afterthought) नहीं है। यह कानूनी टीम की समस्या नहीं है। यह शिल्प (craft) का मूल हिस्सा है।

डेटा प्राइवेसी और सुरक्षा

उस चीज़ से शुरुआत करें जो आप मॉडल को देते हैं। डेटा प्राइवेसी और सुरक्षा उत्पाद शिप होने के बाद टिक किए जाने वाले अनुपालन (compliance) चेकबॉक्स नहीं हैं। वे वे आर्किटेक्चरल निर्णय हैं जो आप शुरुआत में ही लेते हैं।

डेटा संग्रह के दौरान कठिन प्रश्न पूछें। क्या आपको मॉडल को बेहतर बनाने के लिए वास्तव में कच्चे उपयोगकर्ता संवादों (raw user conversations) को स्टोर करने की आवश्यकता है, या क्या आप पहचानकर्ताओं (identifiers) को हटाकर एकत्रित पैटर्न (aggregated patterns) का उपयोग कर सकते हैं? आप संवेदनशील इनपुट को कब तक रखते हैं? क्या आपने विलोपन अनुरोधों (deletion requests) का सम्मान करने का कोई तरीका बनाया है, या डेटा ऐसे बकेट में पड़ा है जिसकी कोई निगरानी नहीं करता?

AI सिस्टम के लिए सुरक्षा के अपने विशिष्ट जोखिम होते हैं। Prompt injection attacks एक मॉडल को उसके सुरक्षा उपायों को अनदेखा करने के लिए धोखा दे सकते हैं। Training data extraction attacks मॉडल के weights से निजी जानकारी निकाल सकते हैं यदि मॉडल ट्रेनिंग के दौरान overfit हो गया हो। आपको एक विरोधी की तरह सोचने की जरूरत है। डेटा को at rest और in transit दोनों स्थितियों में एन्क्रिप्ट करें। ट्रेनिंग डेटासेट तक पहुंच सीमित करें। ऑडिट करें कि कौन प्रोडक्शन मॉडल को क्वेरी कर सकता है और वे क्या पूछते हैं उसका लॉग रखें। ये सामान्य कार्य हैं, लेकिन वे उपयोगकर्ता के विश्वास और डेटा उल्लंघन (data breach) की हेडलाइन के बीच की बाधा बनाते हैं।

ट्रेनिंग सेट्स में पूर्वाग्रह (Bias) की रोकथाम

मॉडल उन पैटर्न को सीखते हैं जो आप उन्हें दिखाते हैं। यदि ट्रेनिंग डेटा ऐतिहासिक असमानता को दर्शाता है, तो मॉडल उस असमानता को भयानक गति और पैमाने के साथ स्वचालित (automate) कर देगा। ट्रेनिंग सेट्स में पूर्वाग्रह की रोकथाम के लिए पहले डेटा पुल से लेकर अंतिम परिनियोजन (deployment) तक सतर्कता की आवश्यकता होती है।

इसका अर्थ है समग्र सटीकता (aggregate accuracy) से परे देखना। एक मेडिकल डायग्नोस्टिक मॉडल गहरे रंग की त्वचा की छवियों पर लगातार विफल होते हुए भी कुल मिलाकर अच्छा स्कोर कर सकता है। एक हायरिंग टूल पुराने पूर्वाग्रहों को दोहरा सकता है यदि ट्रेनिंग डेटा दशकों के सजातीय पदोन्नति इतिहास (homogenous promotion histories) से आता है। आपको जनसांख्यिकीय प्रतिनिधित्व (demographic representation) का ऑडिट करना होगा। आपको केवल पूरी आबादी के बजाय उपसमूहों (subgroups) में त्रुटि दरों का परीक्षण करना होगा। विविध annotation teams लाएं ताकि व्यक्तिपरक लेबल (subjective labels) केवल एक दृष्टिकोण से न आएं।

पूर्वाग्रह की रोकथाम संदर्भ (context) के बारे में भी है। उत्तरी अमेरिकी स्रोतों से अंग्रेजी टेक्स्ट पर प्रशिक्षित मॉडल मुंबई या लागोस के मुहावरों के साथ संघर्ष करेगा। यह आर्किटेक्चर में खामी नहीं है। यह डेटासेट में खामी है। स्रोतों का विस्तार करके, कम प्रतिनिधित्व वाले डेटा को वेटेज देकर और रिलीज़ से पहले adversarial tests चलाकर इसे ठीक करें। निष्पक्षता (fairness) को एक बग की तरह मानें जिसे आप ट्रैक, ट्राइएज और हल करते हैं।

निर्णय लेने में पारदर्शिता

लोग यह जानने के हकदार हैं कि वे कब किसी मशीन से बात कर रहे हैं, और वे तब स्पष्टीकरण के हकदार हैं जब वह मशीन उनके बारे में कोई निर्णय लेती है। निर्णय लेने में पारदर्शिता का अर्थ है उपयोगकर्ताओं के साथ इतना सम्मानजनक व्यवहार करना कि उन्हें बताया जा सके कि पर्दे के पीछे क्या हो रहा है।

डेवलपर्स के लिए, इसका अर्थ व्यावहारिक उत्पाद विकल्पों से है। यदि कोई AI ऋण (loan) देने से मना कर देता है, तो आवेदक को उस अस्वीकृति के पीछे के मुख्य कारकों को देखना चाहिए, न कि केवल एक सामान्य अस्वीकृति संदेश। यदि कोई कंटेंट मॉडरेशन सिस्टम किसी पोस्ट को हटाता है, तो उपयोगकर्ता को उस नियम को समझना चाहिए जो लागू हुआ था। ऐसे मॉडल कार्ड प्रकाशित करें जो इच्छित उपयोग के मामलों (use cases), ज्ञात सीमाओं और विभिन्न समूहों में प्रदर्शन को स्पष्ट रूप से बताते हों। ऐसा लॉगिंग सिस्टम बनाएँ जो ऑडिटर्स को यह ट्रैक करने की अनुमति दे कि उच्च-जोखिम वाले निर्णय कैसे लिए गए।

पारदर्शिता का अर्थ स्क्रीन पर केवल कच्चे प्रोबेबिलिटी वेट्स (probability weights) डाल देना नहीं है। यह ऐसे इंटरफेस डिजाइन करने के बारे में है जो ईमानदारी से संवाद करें। उपयोगकर्ताओं को यह अनुमान लगाने की आवश्यकता नहीं होनी चाहिए कि कोई प्रतिक्रिया AI-जनरेटेड है या नहीं। जब सिस्टम से कोई गलती हो, तो उन्हें किसी 'ब्लैक बॉक्स' से जूझना न पड़े।

मॉडल आउटपुट के लिए जवाबदेही

जिस मॉडल पर सवाल नहीं उठाए जा सकते, उस पर भरोसा नहीं किया जा सकता। मॉडल आउटपुट के लिए जवाबदेही का अर्थ है कि जब सिस्टम विफल हो, तो कोई न कोई उसकी जिम्मेदारी ले सके।

महत्वपूर्ण निर्णयों के लिए मानवीय निरीक्षण (human oversight) सुनिश्चित करें। एक एल्गोरिदम किसी लेनदेन को धोखाधड़ी के रूप में चिह्नित कर सकता है, लेकिन लेनदेन को फ्रीज करने से पहले किसी व्यक्ति द्वारा उसकी समीक्षा की जानी चाहिए। एक AI कानूनी भाषा का मसौदा तैयार कर सकता है, लेकिन एक योग्य पेशेवर को उस पर हस्ताक्षर (sign off) करने होंगे। फीडबैक लूप बनाएँ ताकि उपयोगकर्ता त्रुटियों की रिपोर्ट कर सकें और आप सुधार की दर (correction rates) को माप सकें। स्पष्ट एस्केलेशन पाथ (escalation paths) स्थापित करें जब