Sawan Dasari மேற்கொண்ட புதிய arXiv ஆய்வு, 4,000 சோதனைகளின் அடிப்படையில், ஒரு மாடல் படிப்படியான கற்றலை (incremental learning) மேற்கொள்ளும் திறன் கொண்டதாக இல்லையென்றால், பெரும்பாலான machine-learning பணிகளுக்குச் சிக்கலான drift-detection வழிமுறைகளை விட, கணிக்கக்கூடிய காலமுறை மறுபயிற்சி (periodic-retraining) அட்டவணையே சிறந்தது என்று காட்டுகிறது.
மறுபயிற்சி குறித்த கேள்வி இப்போது ஏன் முக்கியமானது
ஒரு மாடல் பயன்பாட்டிற்கு வந்தவுடன், நிஜ உலகத் தரவுகள் (real-world data) அரிதாகவே நிலையாக இருக்கும். வாடிக்கையாளர் விருப்பங்கள் மாறலாம், மோசடித் தந்திரங்கள் மாறலாம் மற்றும் சென்சார் அளவீடுகள் விலகலாம் (drift). இந்த concept drift மாடலின் துல்லியமான செயல்திறனை விரைவாகக் குறைக்கக்கூடும், இது வருமானம் ஈட்டும் ஒரு அமைப்பைச் சுமையாக மாற்றும். நிறுவனங்கள் பொதுவாக மூன்று வழிகளில் இதற்குப் பதிலளிக்கின்றன: ஒரு நிலையான கால அட்டவணையில் மறுபயிற்சி செய்தல், பிழை வரம்பு (error threshold) தாண்டும்போது மறுபயிற்சியைத் தூண்டுதல், அல்லது தரவு மாற்றங்களைக் கண்டறியும் drift-detection அல்காரிதத்தைப் பயன்படுத்துதல். ஒவ்வொரு அணுகுமுறையும் கணினித் திறன் (compute), பொறியியல் முயற்சி மற்றும் தாமத வரம்பு (latency budget) ஆகியவற்றைச் செலவிடுகிறது, இருப்பினும் இதில் எது உண்மையிலேயே பயனுள்ளது என்பதில் தொழில்துறையில் ஒருமித்த கருத்து இல்லை.
இந்த ஆய்வு எவற்றை ஒப்பிட்டது
இந்த ஆராய்ச்சி, பல்வேறு செயற்கை மற்றும் உண்மையான தரவுத்தொகுப்புகளைக் கொண்டு நான்கு கொள்கைகளை (policies) மதிப்பீடு செய்தது:
- மறுபயிற்சி இல்லை (No retraining) – மாடல் அதன் அசல் பயிற்சித் தரவைக் கொண்டே தொடர்ந்து இயங்கும்.
- காலமுறை மறுபயிற்சி (Periodic retraining) – மாடல்கள் ஒரு நிலையான கால அட்டவணையில் (தினசரி, வாராந்திரம் போன்றவை) புதுப்பிக்கப்படுகின்றன.
- பிழை வரம்பு தூண்டுதல் (Error-threshold triggering) – செயல்திறன் அளவீடு முன்கூட்டியே நிர்ணயிக்கப்பட்ட வரம்பைத் தாண்டும்போது மட்டுமே மறுபயிற்சி தொடங்கும்.
- Drift-detection – ஒரு அல்காரிதம் வரும் தரவுகளில் புள்ளிவிவர மாற்றங்களைக் கண்காணித்து, drift கண்டறியப்பட்டால் மறுபயிற்சியைத் தொடங்கும்.
குழுவினர் ஒவ்வொரு கொள்கையையும், incremental learning-ஐ ஆதரிக்கும் (புதிய தரவுகளுடன் தொடர்ந்து தன்னைத் புதுப்பித்துக் கொள்ளும்) அல்லது ஆதரிக்காத (முழுமையான மறுபயிற்சி தேவைப்படும்) மாடல்களில் சோதித்தனர்.
கொள்கையை விட கட்டமைப்பே மேலானது
ஒரு மாடல் incremental learning-ஐ ஆதரிக்கும் போது, மறுபயிற்சி கொள்கை பெரிய மாற்றத்தை ஏற்படுத்துவதில்லை என்று ஆய்வு கண்டறிந்துள்ளது—மாடல் தொடர்ந்து புதிய தரவுகளை உள்வாங்கித் துல்லியத்தைப் பராமரிக்கிறது. மாறாக, நிலையான பயிற்சி (static-training) மாடல்களுக்கு, கொள்கையைத் தேர்ந்தெடுப்பது சோதனைகளின் போது துல்லியத்தில் 15 முதல் 55 சதவீத புள்ளிகள் வரை மாற்றத்தை ஏற்படுத்தியது. வேறு வார்த்தைகளில் கூறுவதானால், மாடலின் உடனுக்குடன் கற்கும் திறன் மிக முக்கியமானது; அந்தத் திறன் இல்லாதபோது மட்டுமே மறுபயிற்சி அட்டவணை முக்கியத்துவம் பெறுகிறது.
நிலையான மாடல்களுக்கு, புத்திசாலித்தனமான முறைகளை விட எளிமையான முறையே சிறந்தது
படிப்படியான கற்றலை மேற்கொள்ள முடியாத மாடல்களுக்கு, drift திடீரென ஏற்பட்டாலும் (விநியோகத்தில் ஏற்படும் கடுமையான மாற்றம்) அல்லது படிப்படியாக ஏற்பட்டாலும் (மெதுவான மாற்றம்), காலமுறை அட்டவணை முறையானது பிழை வரம்பு மற்றும் drift-detection முறைகளை விடத் தொடர்ந்து சிறப்பாகச் செயல்பட்டது. "புத்திசாலித்தனமான" வழிமுறைகளுக்குக் கூடுதல் கண்காணிப்பு உள்கட்டமைப்பு மற்றும் சரிசெய்தல் (tuning) தேவைப்பட்டது, மேலும் அவை ஏற்படுத்தும் தாமதத்தை ஈடுகட்டும் அளவுக்குத் தரவு விலகலை (drift) முன்கூட்டியே கண்டறிவதும் அரிதாகவே இருந்தது. கணிக்கக்கூடிய தன்மையே (Predictability) இங்கு தீர்மானிக்கும் காரணியாக இருந்தது: குழுக்கள் வளங்களை முன்கூட்டியே ஒதுக்கீடு செய்ய முடிந்தது மற்றும் எதிர்வினை ஆற்றும் (reactive) அமைப்புகளில் உள்ள "காத்திருந்து பார்ப்பது" போன்ற தாமதத்தைத் தவிர்க்க முடிந்தது.
கணினித் திறன் வரம்பு மற்றும் தாமதம் பிரிக்க முடியாதவை
மறுபயிற்சி என்பது இலவசமானது அல்ல. மறுபயிற்சி எடுக்கும் காலம் ஒட்டுமொத்த கணினித் திறன் வரம்பில் (compute budget) ஏற்படுத்தும் தாக்கத்தை இந்தச் சோதனைகள் அளவிட்டன. தாமதம் மற்றும் வரம்பு ஆகியவை தனித்தனியாகக் கணக்கிடப்பட்டபோது, குழுக்கள் எதிர்பார்த்த மறுபயிற்சி திறனில் பாதி அளவை மட்டுமே பெற முடிந்தது—நீண்ட நேரப் பயிற்சியினால் ஏற்படும் மறைமுகச் செலவு, கணிப்புக்காக (inference) ஒதுக்கப்பட்ட வளங்களைச் சாப்பிட்டுவிட்டது. இதிலிருந்து நாம் தெரிந்துகொள்ள வேண்டியது தெளிவு: எந்தவொரு மறுபயிற்சி உத்தியையும் அதன் நேர மற்றும் கணினித் திறன் செலவுகளுடன் சேர்த்து மதிப்பீடு செய்யுங்கள், அதை வெறும் துல்லியத்தை அதிகரிக்கும் ஒரு கருவியாக மட்டும் பார்க்காதீர்கள்.
இந்த கண்டுபிடிப்புகள் நிஜ உலக பயன்பாடுகளுக்கு எவ்வாறு பொருந்தும்
- மோசடி கண்டறிதல் (Fraud detection) – மோசடி முறைகள் வேகமாக மாறுகின்றன, ஆனால் தாக்குதல்களுக்குப் பின்னால் தங்கிவிடக்கூடிய ஒரு தனிப்பயனாக்கப்பட்ட drift-detection வழிமுறையை உருவாக்குவதை விட, ஒரு ஒழுக்கமான காலமுறை அட்டவணை (உதாரணமாக, ஒவ்வொரு இரவும்) மிகவும் நம்பகமானது என்று இந்த ஆய்வு பரிந்துரைக்கிறது.
- தனிப்பயனாக்கம் (Personalization) – இங்கே மாடல் கட்டமைப்பே முன்னுரிமை பெறுகிறது. ஒரு incremental-learning அல்காரிதத்தைப் பயன்படுத்துங்கள் (online gradient updates, streaming factorization போன்றவை). மாடல் புதிய தொடர்புகளைத் தொடர்ந்து உள்வாங்கிக் கொள்ளும் போது, அட்டவணை குறித்த விவாதம் தேவையில்லை.
- முன்னறிவிப்பு (Forecasting) – காலத் தொடர் முன்னறிவிப்புகள் (Time-series forecasts) பெரும்பாலும் படிப்படியாகப் புதுப்பிக்க முடியாத கனமான மாடல்களை (உதாரணமாக, deep LSTMs) கோருகின்றன. இத்தகைய சந்தர்ப்பங்களில், வரவுத் திட்டமிடலில் முழுப் பயிற்சி காலத்தையும் சேர்க்க வேண்டும்; இல்லையெனில், கணிக்க வேண்டிய தரவுகளுக்குப் பின்னால் இந்த அமைப்பு தங்கிவிடும்.
முடிவுரை
உங்கள் மாடல் படிப்படியான கற்றலை (incremental learning) மேற்கொள்ளும் திறன் கொண்டதாக இருந்தால், அந்தத் திறனில் முதலீடு செய்து தரவுகள் பாயட்டும். அது இல்லையென்றால், சிக்கலான drift-detection வழிமுறைகளைக் கைவிட்டு, கணினித் திறன் மற்றும் தாமதச் செலவுகளை முன்கூட்டியே கணக்கில் கொண்டு, ஒரு வழக்கமான, கணிக்கக்கூடிய மறுபயிற்சி அட்டவணையைத் தொடங்குங்கள். ஆயிரக்கணக்கான சோதனைகளால் நிரூபிக்கப்பட்ட இந்த எளிமையான அணுகுமுறையானது, தேவையற்ற சிக்கலான (over-engineered) தீர்வுகளின் மறைமுகச் செலவின்றி மிக உயர்ந்த துல்லியத்தை வழங்குகிறது.