VIDRAFT-ന്റെ 398 ബില്യൺ പാരാമീറ്റർ മോഡലായ Darwin-398B-JGOS, വെറും 24 GPUകൾ മാത്രം ഉപയോഗിച്ച് GPQA Diamond ലീഡർബോർഡിൽ മൂന്നാം സ്ഥാനം കരസ്ഥമാക്കി. മനഃപാഠമാക്കിയ ഉത്തരങ്ങൾക്ക് പകരം യഥാർത്ഥ ശാസ്ത്രീയ യുക്തി ആവശ്യപ്പെടുന്ന ഒരു പരീക്ഷണത്തിൽ, ലോകത്തിലെ ഏറ്റവും വലിയ AI ലാബുകളെപ്പോലും ഒരു ചെറിയ കൊറിയൻ സ്റ്റാർട്ടപ്പിന് വെല്ലുവിളിക്കാൻ കഴിയുമെന്ന് ഈ ഫലം തെളിയിക്കുന്നു.

എന്തുകൊണ്ടാണ് GPQA Diamond പ്രധാനമാകുന്നത്

പൊതുവായ വെബ്സൈറ്റുകളിൽ കാണപ്പെടാത്ത ഗ്രാജുവേറ്റ് തലത്തിലുള്ള ശാസ്ത്ര ചോദ്യങ്ങളാണ് GPQA Diamond ചോദിക്കുന്നത്. ഇതിന്റെ ഉത്തരങ്ങൾ വെബ്സൈറ്റുകളിൽ നിന്ന് ശേഖരിക്കാൻ (scrape) കഴിയില്ല എന്നതിനാൽ, ഒരു മോഡൽ നേരത്തെ ശേഖരിച്ച വിവരങ്ങൾ ഉപയോഗിക്കുന്നതിന് പകരം പ്രശ്നത്തിലൂടെ യുക്തിസഹമായി ചിന്തിച്ച് ഉത്തരം കണ്ടെത്തേണ്ടതുണ്ട്. ഈ ബെഞ്ച്മാർക്ക് മനഃപാഠമാക്കുന്നതിന് പകരം യുക്തി ഉപയോഗിക്കാൻ നിർബന്ധിക്കുന്നു.

നിലവിലെ ലീഡർബോർഡ്

  • Kimi-K3 (CN): 93.5
  • GLM-5.2 (CN): 91.2
  • Darwin-398B-JGOS (KR): 90.9
  • DeepSeek-V4-Pro (CN): 90.1
  • Inkling-Small (US): 89.5
  • Qwen3.5-397B-A17B (CN): 88.4
  • Nemotron-3-Ultra-550B (US): 87.9

ഇത്തരത്തിലുള്ള പ്രോജക്റ്റുകൾക്കായി സാധാരണയായി ഉപയോഗിക്കുന്ന ഹാർഡ്‌വെയറിന്റെ വളരെ ചെറിയൊരു ഭാഗം മാത്രം ഉപയോഗിച്ചിട്ടും, Nvidia, DeepSeek എന്നിവയുടെയും അമേരിക്കൻ, ചൈനീസ് മോഡലുകളുടെയും മുന്നേറാൻ Darwin-ന് സാധിച്ചു.

വിജയത്തിന് പിന്നിലെ രീതി

VIDRAFT ഒരു വലിയ GPU ഫാം വാങ്ങുകയല്ല ചെയ്തത്. പകരം, ടീം “evolutionary merging” എന്ന രീതിയാണ് ഉപയോഗിച്ചത്; ഇതിൽ ഒന്നിലധികം ഓപ്പൺ സോഴ്സ് മോഡലുകളെ ആവർത്തിച്ച് സംയോജിപ്പിക്കുകയും മികച്ച പ്രകടനം കാഴ്ചവെക്കുന്ന ഘടകങ്ങൾ മാത്രം നിലനിർത്തുകയും ചെയ്യുന്നു. വെറും 24-GPU ക്ലസ്റ്ററിൽ ഇത് പ്രവർത്തിപ്പിച്ചതിലൂടെ, പൂജ്യത്തിൽ നിന്ന് പരിശീലിപ്പിക്കാൻ (train from scratch) സാധാരണയായി ആവശ്യമായ വലിയ മൂലധന നിക്ഷേപമില്ലാതെ തന്നെ ഉയർന്ന നിലവാരമുള്ള 398 ബില്യൺ പാരാമീറ്റർ നെറ്റ്‌വർക്ക് നിർമ്മിക്കാൻ അവർക്ക് കഴിഞ്ഞു.

ഇത് AI മേഖലയ്ക്ക് എന്ത് അർത്ഥമാക്കുന്നു

  • പ്രവേശന കവാടം കുറയുന്നു: മികച്ച AI നിർമ്മിക്കാൻ ഇനി ആയിരക്കണക്കിന് GPUകൾ ആവശ്യമില്ല.

പരിമിതികളും മറ്റ് വശങ്ങളും

Darwin ഇപ്പോഴും ആദ്യ രണ്ട് സ്ഥാനക്കാർക്ക് തൊട്ടുപിന്നിലായുണ്ട്, കൂടാതെ ഇതിന്റെ 398 ബില്യൺ പാരാമീറ്റർ വലിപ്പം വളരെ വലുതാണ്—ഈ മോഡൽ പരിശീലിപ്പിക്കാനോ പ്രവർത്തിപ്പിക്കാനോ (serving) ഇപ്പോഴും വലിയ അടിസ്ഥാന സൗകര്യങ്ങൾ ആവശ്യമാണ്. ഒരു ചെറിയ ക്ലസ്റ്ററിൽ ഓപ്പൺ മോഡലുകളുടെ evolutionary merging എന്ന രീതിയിലാണ് ഈ സമീപനം നിലകൊള്ളുന്നത്. GPQA Diamond ആണ് ഇതിനായി ബെഞ്ച്മാർക്കായി ഉപയോഗിച്ചത്.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

ഇതിൽ നിന്നുള്ള പാഠം വ്യക്തമാണ്: ബുദ്ധിപരമായ മോഡൽ-ഫ്യൂഷൻ (model-fusion) തന്ത്രങ്ങൾ ഉപയോഗിച്ച് കമ്പ്യൂട്ടിംഗ് ശേഷിയുടെ കുറവ് പരിഹരിക്കാൻ സാധിക്കും, ഇത് AI ഗവേഷണത്തിന്റെ ഏറ്റവും ഉയർന്ന തലങ്ങളിൽ ആർക്കൊക്കെ മത്സരിക്കാൻ കഴിയുമെന്നതിനെ മാറ്റിമറിക്കും.