நீங்கள் தயாரிப்புச் சூழலுக்கு (production) அனுப்பும் ஒவ்வொரு வரியும் ஒரு அல்காரிதம் எவ்வாறு செயல்பட வேண்டும் என்பதைக் கற்பிக்கிறது. அந்தச் செயல்பாடு வெளிப்படையாகப் பரவுகிறது. யாருடைய கடன் அங்கீகரிக்கப்பட வேண்டும், எந்த மருத்துவ ஸ்கேன் முன்னுரிமை பெற வேண்டும் மற்றும் பயனரின் ஃபிடில் (feed) என்ன உள்ளடக்கம் நிரப்பப்பட வேண்டும் என்பதை அது தீர்மானிக்கிறது. ஒரு டெவலப்பராக, நீங்கள் வெறும் அம்சங்களை (features) மட்டும் ஒன்றிணைக்கவில்லை. இந்த அமைப்புகள் மனித வாழ்க்கையோடு எவ்வாறு தொடர்பு கொள்கின்றன என்பதை நீங்கள் வடிவமைக்கிறீர்கள்.
அந்தப் பொறுப்பு வெறும் செயல்பாட்டு மென்பொருளை வெளியிடுவதை விட ஆழமானது. தொழில்நுட்பத்தை உருவாக்குவது மட்டும் போதாது. அதை பொறுப்புடன் உருவாக்க வேண்டும். அறநெறி சார்ந்த அல்காரிதம்கள் பெஞ்ச்மார்க்குகளில் (benchmarks) சிறப்பாகச் செயல்படுவதை விட மேலானவை. அவை பாதிப்புகளைத் தீவிரமாகத் தடுக்கின்றன, மேலும் காலப்போக்கில் அவற்றைப் பயன்படுத்தும் மக்களிடமிருந்து நம்பிக்கையைப் பெறுகின்றன. அந்த நம்பிக்கை மிகவும் உடையக்கூடியது. ஒரு பயிற்சி வழிமுறையில் (training pipeline) செய்யப்படும் ஒரு கவனக்குறைவான முடிவோ அல்லது தெளிவற்ற தனியுரிமை அமைப்போ அதை உடைத்துவிடும். உங்கள் குறியீடு (code) சமூகத்தை வடிவமைக்கிறது. உங்கள் முடிவுகள் முக்கியத்துவம் வாய்ந்ததாக இருக்க வேண்டும்.
நீங்கள் உருவாக்குவதன் தாக்கம்
டெவலப்பர்கள் AI-ன் எதிர்காலத்தை உருவாக்குகிறார்கள். இந்த அமைப்புகள் எவ்வாறு செயல்பட வேண்டும் என்பதை நீங்களே தீர்மானிக்கிறீர்கள். நீங்கள் டிபக்கிங் (debugging) முறையில் மூழ்கி, லாஸ் கர்வ்ஸ் (loss curves) மற்றும் லேட்டன்சி மெட்ரிக்ஸை (latency metrics) உற்று நோக்கும்போது, அந்த அதிகாரத்தை மறப்பது எளிது. ஆனால் நீங்கள் பயிற்றுவிக்கும் மாதிரிகள் (models) ஒரு கட்டமைப்பாக (infrastructure) மாறுகின்றன. அவை வேலைவாய்ப்பு முடிவுகள், கடன் மதிப்பீடு, குற்ற அபாய மதிப்பீடுகள் மற்றும் கல்வி இட ஒதுக்கீடு ஆகியவற்றில் தாக்கத்தை ஏற்படுத்துகின்றன.
இதை ஒரு கட்டமைப்புப் பொறியியலைப் (structural engineering) போலக் கருதுங்கள். ஒரு பாலத்தைக் கட்டுபவர், பொருட்கள் கிடைத்தன மற்றும் கணக்கீடுகள் சரியாக இருந்தன என்று மட்டும் கூறிவிட முடியாது. அந்த வடிவமைப்பு நிஜ உலக அழுத்தங்களின் கீழ் தாங்குமா, அதன் வழியாக நடப்பவர்கள் பாதுகாப்பாக இருப்பார்கள்வா என்பதை அவர் கேட்க வேண்டும். அதே தரம் இதற்கும் பொருந்தும். ஒரு கட்டுப்படுத்தப்பட்ட சோதனையில் சரியாகச் செயல்படும் ஒரு அல்காரிதம், குழப்பமான மனித யதார்த்தத்தைச் சந்திக்கும் போது உண்மையான பாதிப்பை ஏற்படுத்தக்கூடும். அந்தப் பாதிப்பைத் தடுப்பது வேலையின் ஒரு பகுதியாகும். அது ஒரு கூடுதல் சிந்தனை அல்ல. அது சட்டக் குழுவின் பிரச்சனை அல்ல. அது கைவினைக் கலையின் (craft) முக்கிய அங்கமாகும்.
தரவு தனியுரிமை மற்றும் பாதுகாப்பு
நீங்கள் மாடலுக்கு வழங்கும் தரவிலிருந்து தொடங்குங்கள். தரவு தனியுரிமை மற்றும் பாதுகாப்பு என்பது தயாரிப்பு வெளியான பிறகு சரிபார்க்க வேண்டிய இணக்கச் சரிபார்ப்புப் பெட்டிகள் (compliance checkboxes) அல்ல. அவை தொடக்கத்திலேயே நீங்கள் எடுக்கும் கட்டமைப்பு முடிவுகள் (architectural decisions).
தரவு சேகரிப்பின் போது கடினமான கேள்விகளைக் கேளுங்கள். மாடலை மேம்படுத்த பயனர்களின் நேரடி உரையாடல்களைச் சேமிக்க உங்களுக்கு உண்மையிலேயே தேவையா, அல்லது அடையாளக் குறிகளை நீக்கிவிட்டுத் தொகுக்கப்பட்ட வடிவங்களைப் (aggregated patterns) பயன்படுத்தலாமா? உணர்திறன் மிக்க உள்ளீடுகளை எவ்வளவு காலம் வைத்திருக்கிறீர்கள்? நீக்கக் கோரிக்கைகளை (deletion requests) நிறைவேற்ற ஒரு வழியை நீங்கள் உருவாக்கியுள்ளீர்களா, அல்லது அந்தத் தரவு யாரும் கண்காணிக்காத ஒரு சேமிப்பகத்தில் (bucket) அப்படியே இருக்கிறதா?
AI அமைப்புகளுக்கான பாதுகாப்பு அதன் சொந்த குறிப்பிட்ட அபாயங்களைக் கொண்டுள்ளது. Prompt injection தாக்குதல்கள் ஒரு மாடலை அதன் பாதுகாப்பு முறைகளைப் புறக்கணிக்கத் தூண்டலாம். மாடல் பயிற்சியின் போது overfit செய்யப்பட்டிருந்தால், training data extraction தாக்குதல்கள் தனிப்பட்ட தகவல்களை அதன் weights-லிருந்து வெளியே எடுக்கக்கூடும். நீங்கள் ஒரு எதிரியைப் போலச் சிந்திக்க வேண்டும். தரவைச் சேமிப்பிலும் (at rest) மற்றும் பரிமாற்றத்திலும் (in transit) குறியாக்கம் (Encrypt) செய்யுங்கள். பயிற்சித் தரவுத் தொகுப்புகளுக்கான அணுகலைக் கட்டுப்படுத்துங்கள். தயாரிப்பு மாடல்களை யார் வினவ முடியும் என்பதைத் தணிக்கை செய்து, அவர்கள் என்ன கேட்கிறார்கள் என்பதைப் பதிவு செய்யுங்கள். இவை சாதாரணமான வேலைகள் தான், ஆனால் அவை பயனர் நம்பிக்கையையும், தரவு மீறல் குறித்த செய்திகளையும் பிரிக்கும் தடையாகும்.
பயிற்சித் தொகுப்புகளில் சார்புத் தடுப்பு (Bias Prevention)
நீங்கள் காட்டும் வடிவங்களை மாடல்கள் கற்றுக்கொள்கின்றன. பயிற்சித் தரவு வரலாற்று ரீதியான சமமின்மையைப் பிரதிபலித்தால், மாடல் அந்தச் சமமின்மையை பயங்கரமான வேகத்திலும் அளவிலும் தானியக்கமாக்கும். பயிற்சித் தொகுப்புகளில் சார்புத் தடுப்பு (Bias prevention) என்பது முதல் தரவு சேகரிப்பு முதல் இறுதி நடைமுறைப்படுத்துதல் வரை விழிப்புணர்வை கோருகிறது.
இதன் பொருள் மொத்தத் துல்லியத்தைத் (aggregate accuracy) தாண்டிப் பார்ப்பதாகும். ஒரு மருத்துவ நோய் கண்டறியும் மாடல் ஒட்டுமொத்தமாகச் சிறப்பாகச் செயல்படலாம், ஆனால் கருமையான தோல் கொண்டவர்களின் படங்களைச் சரியாகக் கண்டறிவதில் தொடர்ந்து தோல்வியடையலாம். பயிற்சித் தரவு பல தசாப்தகால ஒரே மாதிரியான பதவி உயர்வு வரலாறுகளில் இருந்து வந்தால், ஒரு வேலைவாய்ப்பு கருவி பழைய சார்புகளை மீண்டும் உருவாக்கலாம். நீங்கள் மக்கள்தொகை பிரதிநிதித்துவத்தைத் (demographic representation) தணிக்கை செய்ய வேண்டும். ஒட்டுமொத்த மக்கள் தொகையை மட்டுமல்லாமல், பல்வேறு துணைக்குழுக்களின் (subgroups) பிழை விகிதங்களையும் நீங்கள் சோதிக்க வேண்டும். தனிப்பட்ட கருத்து சார்ந்த லேபிள்கள் (subjective labels) ஒரே ஒரு பார்வையில் இருந்து வராமல் இருக்க, பல்வேறுபட்ட annotation teams-களை ஈடுபடுத்துங்கள்.
சார்புத் தடுப்பு என்பது சூழலைப் பற்றியதுமாகும். வட அமெரிக்கத் தரவுகளில் இருந்து ஆங்கில உரையில் பயிற்றுவிக்கப்பட்ட ஒரு மாடல், மும்பை அல்லது லாகோஸின் மரபுத்தொடர்களுடன் (idioms) போராடும். அது கட்டமைப்பில் உள்ள குறைபாடு அல்ல. அது தரவுத் தொகுப்பில் உள்ள குறைபாடு. ஆதாரங்களை விரிவுபடுத்துவதன் மூலமும், குறைவாகப் பிரதிநிதித்துவப்படுத்தப்பட்ட தரவுகளுக்கு முக்கியத்துவம் அளிப்பதன் மூலமும், வெளியிடுவதற்கு முன் adversarial tests நடத்துவதன் மூலமும் இதைச் சரிசெய்யலாம். நியாயத்தை (fairness) நீங்கள் கண்காணித்து, வகைப்படுத்தி, தீர்க்க வேண்டிய ஒரு பிழையாக (bug) கருதுங்கள்.
முடிவெடுப்பதில் வெளிப்படைத்தன்மை
மக்கள் தாங்கள் ஒரு இயந்திரத்துடன் பேசிக்கொண்டிருக்கிறோம் என்பதை அறியத் தகுதியுடையவர்கள், மேலும் அந்த இயந்திரம் அவர்களைப் பற்றி ஒரு முடிவை எடுக்கும்போது அதற்கான விளக்கத்தைப் பெறவும் தகுதியுடையவர்கள். முடிவெடுப்பதில் வெளிப்படைத்தன்மை என்பது, இயந்திரத்தின் உள்ளே (under the hood) என்ன நடக்கிறது என்பதைத் தெரிவிக்கும் அளவுக்குப் பயனர்களை மரியாதையுடன் நடத்துவதாகும்.
டெவலப்பர்களுக்கு, இது நடைமுறைத் தயாரிப்புத் தேர்வுகளாக அமைகிறது. ஒரு AI கடனுக்கான விண்ணப்பத்தை நிராகரித்தால், விண்ணப்பதாரர் அந்த நிராகரிப்பிற்குப் பின்னால் உள்ள முக்கிய காரணங்களைக் காண வேண்டும், வெறும் பொதுவான நிராகரிப்புச் செய்தியை மட்டும் அல்ல. ஒரு உள்ளடக்கக் கண்காணிப்பு அமைப்பு (content moderation system) ஒரு பதிவை நீக்கினால், எந்த விதி செயல்படுத்தப்பட்டது என்பதைப் பயனர் புரிந்துகொள்ள வேண்டும். பயன்பாட்டு நோக்கங்கள், அறியப்பட்ட வரம்புகள் மற்றும் பல்வேறு மக்கள் தொகைகளிடையே அதன் செயல்பாடு ஆகியவற்றைத் தெளிவாகக் கூறும் model cards-களை வெளியிடவும். முக்கியமான முடிவுகள் எவ்வாறு எடுக்கப்பட்டன என்பதைத் தணிக்கையாளர்கள் (auditors) கண்டறிய உதவும் வகையில் logging வசதியை உருவாக்கவும்.
வெளிப்படைத்தன்மை என்பது வெறும் நிகழ்தகவு எடைகளை (probability weights) திரையில் கொட்டுவது பற்றியது அல்ல. அது நேர்மையாகத் தகவல்களைத் தெரிவிக்கும் இடைமுகங்களை (interfaces) வடிவமைப்பதைப் பற்றியது. ஒரு பதில் AI-ஆல் உருவாக்கப்பட்டதுதானா என்று பயனர்கள் யூகிக்க வேண்டிய அவசியமில்லை. கணினி ஏதேனும் தவறு செய்யும்போது, அவர்கள் ஒரு black box-உடன் போராட வேண்டிய நிலை இருக்கக்கூடாது.
மாடல் வெளியீடுகளுக்கான பொறுப்புக்கூறல்
கேள்வி கேட்க முடியாத ஒரு மாடலை நம்ப முடியாது. மாடல் வெளியீடுகளுக்கான பொறுப்புக்கூறல் என்பது, கணினி தோல்வியடையும் போது யாராவது, எங்காவது, அதற்குப் பொறுப்பேற்க முடியும் என்பதைக் குறிக்கிறது.
முக்கியமான முடிவுகளுக்கு மனித மேற்பார்வையை (human oversight) உள்ளடக்கவும். ஒரு அல்காரிதம் ஒரு பரிவர்த்தனையை மோசடியானது என்று அடையாளப்படுத்தலாம், ஆனால் அந்தப் பரிவர்த்தனை முடக்கப்படுவதற்கு முன் ஒரு மனிதர் அதை ஆய்வு செய்ய வேண்டும். ஒரு AI சட்ட ரீதியான மொழியைத் தயார் செய்யலாம், ஆனால் ஒரு தகுதியுள்ள நிபுணர் அதை உறுதிப்படுத்த வேண்டும். பயனர்கள் பிழைகளைப் புகாரளிக்கவும், நீங்கள் திருத்த விகிதங்களை அளவிடவும் feedback loops-களை உருவாக்கவும். எப்போது என்றால்