AI ಮೂಲಸೌಕರ್ಯದ ಪರಿಸರವು ಈಗ ಮಾಡೆಲ್ ತರಬೇತಿಯಿಂದ (training) ಮಾಡೆಲ್ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯತ್ತ (execution) ಮೂಲಭೂತ ಬದಲಾವಣೆಯನ್ನು ಕಾಣುತ್ತಿದೆ. ತಾಂತ್ರಿಕ ಹೂಡಿಕೆ ಸಂಸ್ಥೆಯಾದ Upper90, AI ಇನ್ಫರೆನ್ಸ್ ಸ್ಟಾರ್ಟ್‌ಅಪ್ General Compute ಗೆ ನೀಡಿದ ಬೃಹತ್ $400 ಮಿಲಿಯನ್ ಸಾಲವು, ಹಾರ್ಡ್‌ವೇರ್ ಹಣಕಾಸು ಮತ್ತು ನಿಯೋಜನೆಯಲ್ಲಿ ಒಂದು ಐತಿಹಾಸಿಕ ಮೈಲಿಗಲ್ಲಾಗಿದೆ.

ಅಡಮಾನದ ಹೊಸ ಯುಗ: ಇನ್ಫರೆನ್ಸ್ ಚಿಪ್‌ಗಳಿಗೆ ಹಣಕಾಸು ನೆರವು

GPU ಹಣಕಾಸಿನ ಆರಂಭಿಕ ದಿನಗಳನ್ನೇ ಹೋಲುವಂತೆ, Upper90 ಈಗ ಒಂದು ಹೊಸ ಆಸ್ತಿ ವರ್ಗಕ್ಕೆ (asset class) ಕಾಲಿಡುತ್ತಿದೆ: ಅದುವೇ ಇನ್ಫರೆನ್ಸ್-ನಿರ್ದಿಷ್ಟ ಸಿಲಿಕಾನ್. CoreWeave ನಂತಹ ಸಂಸ್ಥೆಗಳು ಮುನ್ನಡೆಸಿದ ಹಿಂದಿನ ಹೂಡಿಕೆಯ ಅಲೆಗಳು ಬೃಹತ್ ತರಬೇತಿ ಕೆಲಸಗಳಿಗಾಗಿ ಬಳಸುವ Nvidia GPUಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿದ್ದವು. ಆದರೆ, ಈ $400 ಮಿಲಿಯನ್ ಒಪ್ಪಂದವು ಈಗಾಗಲೇ ತರಬೇತಿ ಪಡೆದ ಮಾಡೆಲ್‌ಗಳನ್ನು ಚಲಾಯಿಸಲು ನಿರ್ದಿಷ್ಟವಾಗಿ ತಯಾರಿಸಲಾದ ಚಿಪ್‌ಗಳನ್ನು ಅಡಮಾನವಾಗಿ ಬಳಸುತ್ತದೆ.

CEO Finn Puklowski ನೇತೃತ್ವದ General Compute ಸಂಸ್ಥೆಯು "neocloud" ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಿದೆ—ಇದು ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಕಂಪ್ಯೂಟಿಂಗ್ ಬದಲಿಗೆ ಕೇವಲ AI ಕೆಲಸಗಳಿಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ವಿಶೇಷ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವ ಸಂಸ್ಥೆಯಾಗಿದೆ. ಈ ವ್ಯತ್ಯಾಸವು ಬಹಳ ಮುಖ್ಯ; AWS ಮತ್ತು Azure ನಂತಹ ಸಾಂಪ್ರದಾಯಿಕ ಹೈಪರ್ಸ್ಕೇಲರ್‌ಗಳು ವ್ಯಾಪಕವಾದ ಸೇವೆಗಳನ್ನು ನೀಡಿದರೆ, neocloud ಗಳು Large Language Models (LLMs) ಗಳ ವಿಶಿಷ್ಟ ವಿಳಂಬ (latency) ಮತ್ತು ಥ್ರೂಪುಟ್ (throughput) ಅಗತ್ಯತೆಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ.

SambaNova ನ SN50 ತಾಂತ್ರಿಕ ಶಕ್ತಿ

General Compute ನ ಕಾರ್ಯತಂತ್ರದ ಕೇಂದ್ರಬಿಂದುವು Intel ಬೆಂಬಲಿತ ಚಿಪ್ ತಯಾರಕ ಸಂಸ್ಥೆಯಾದ SambaNova ನೊಂದ ಪಾಲುದಾರಿಕೆಯಾಗಿದೆ. ಕಂಪನಿಯು SambaNova ನ SN50 ಚಿಪ್‌ಗಳನ್ನು ನಿಯೋಜಿಸುತ್ತಿದೆ, ಇವು ಸಾಂಪ್ರದಾಯಿಕ ಹಾರ್ಡ್‌ವೇರ್ ಗಿಂತ ಗಮನಾರ್ಹ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ನೀಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.

General Compute ಪ್ರಕಾರ, ಈ ಚಿಪ್‌ಗಳು ಪ್ರಸ್ತುತ GPU ಆಧಾರಿತ ಕ್ಲೌಡ್‌ಗಳಿಗಿಂತ 16 ಪಟ್ಟು ಹೆಚ್ಚು ವೇಗವಾಗಿ ಇನ್ಫರೆನ್ಸ್ ನೀಡಬಲ್ಲವು. ಕೇವಲ ವೇಗ ಮಾತ್ರವಲ್ಲದೆ, SN50 ಎರಡು ಪ್ರಮುಖ ಕಾರ್ಯಾಚರಣೆಯ ಪ್ರಯೋಜನಗಳನ್ನು ನೀಡುತ್ತದೆ:

  • ವಿದ್ಯುತ್ ದಕ್ಷತೆ (Power Efficiency): ಇವು ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕಡಿಮೆ ಇಂಧನವನ್ನು ಬಳಸುತ್ತವೆ, ಇದರಿಂದ AI ನಿಯೋಜನೆಯ ಬೃಹತ್ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು.
  • ಸರಳೀಕೃತ ಕೂಲಿಂಗ್ (Simplified Cooling): ಸಂಕೀರ್ಣ ಮತ್ತು ದುಬಾರಿ ವಾಟರ್-ಕೂಲಿಂಗ್ ವ್ಯವಸ್ಥೆಗಳ ಅಗತ್ಯವಿರುವ ಹೈ-ಎಂಡ್ GPUಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿ, ಈ ಚಿಪ್‌ಗಳು ವಿವಿಧ ರೀತಿಯ ಪ್ರಮಾಣಿತ ಡೇಟಾ ಸೆಂಟರ್ ಪರಿಸರಗಳಲ್ಲಿ ವೇಗವಾಗಿ ನಿಯೋಜಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ.

Nvidia ಏಕಸ್ವಾಮ್ಯವನ್ನು ಮುರಿಯುವುದು

ಈ ಒಪ್ಪಂದವು ಕೇವಲ ಬಂಡವಾಳದ ಹೂಡಿಕೆಯಲ್ಲ; ಇದು ಮಾರುಕಟ್ಟೆಯು Nvidia ನ ಪ್ರಾಬಲ್ಯಕ್ಕೆ ಪರ್ಯಾಯಗಳನ್ನು ಹುಡುಕುತ್ತಿದೆ ಎಂಬ ಕಾರ್ಯತಂತ್ರದ ಸಂಕೇತವಾಗಿದೆ. ಟೋಕನ್‌ಗಳ ವೆಚ್ಚ ಮತ್ತು ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ ಪ್ರವೇಶವು ಡೆವಲಪರ್‌ಗಳಿಗೆ ಅಡ್ಡಿಯಾಗಿರುವಾಗ, ಓಪನ್-ಸೋರ್ಸ್ ಮಾಡೆಲ್‌ಗಳಿಗಾಗಿ ಅಗ್ಗದ ಮತ್ತು ದಕ್ಷ ಪ್ರವೇಶದ ಬೇಡಿಕೆ ಹೆಚ್ಚುತ್ತಿದೆ.

Kimi ನ K3 ನಂತಹ ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ಓಪನ್-ಸೋರ್ಸ್ ಮಾಡೆಲ್‌ಗಳ ಉದಯವು—ಇದು ಕೋಡಿಂಗ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ Anthropic ಮತ್ತು OpenAI ನೊಂದಿಗೆ ಸ್ಪರ್ಧಿಸುತ್ತದೆ—ಉದ್ಯಮದ ಸವಾಲುವು "ನಾವು ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸಬೇಕು?" ಎಂಬುದರಿಂದ "ನಾವು ಅವುಗಳನ್ನು ಕೈಗೆಟುಕುವ ದರದಲ್ಲಿ ಹೇಗೆ ಚಲಾಯಿಸಬೇಕು?" ಎಂಬುದಕ್ಕೆ ಬದಲಾಗುತ್ತಿದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸುತ್ತದೆ. Nvidia ಅಲ್ಲದ ಸಿಲಿಕಾನ್ ಅನ್ನು ಬಳಸುವ ಮೂಲಕ, General Compute ಮತ್ತು TensorWave (AMD ನೊಂದಿಗೆ ಪಾಲುದಾರಿಕೆ ಹೊಂದಿದೆ) ನಂತಹ ಸ್ಪರ್ಧಿಗಳು ಉತ್ತಮವಾದ ಒಟ್ಟು ಮಾಲೀಕತ್ವದ ವೆಚ್ಚವನ್ನು (Total Cost of Ownership - TCO) ನೀಡಲು ಸಜ್ಜಾಗುತ್ತಿದ್ದಾರೆ.

Puklowski ಗಮನಿಸಿದಂತೆ, ಈ ಒಪ್ಪಂದವು AI ಪರಿಸರ ವ್ಯವಸ್ಥೆಯ ಮೇಲಿನ Nvidia ನ ಏಕಸ್ವಾಮ್ಯವನ್ನು ಮುರಿಯಲು "ಬಂಡವಾಳವು ತನ್ನಷ್ಟಕ್ಕೆ ತಾನೇ ಸಂಘಟಿತವಾಗುತ್ತಿದೆ" ಎಂಬುದನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. ವಿಶೇಷ ಇನ್ಫರೆನ್ಸ್ ಹಾರ್ಡ್‌ವೇರ್ ಮೇಲೆ ಪಣತೊಡುವ ಮೂಲಕ, ಮುಂದಿನ AI ಕ್ರಾಂತಿಯು ಪ್ರಮಾಣ (scale), ದಕ್ಷತೆ ಮತ್ತು ದೈನಂದಿನ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಲ್ಲಿ AI ನ ವ್ಯಾಪಕ ಬಳಕೆಯಿಂದ ಚಾಲನೆ ಪಡೆಯುತ್ತದೆ ಎಂಬುದನ್ನು ಹೂಡಿಕೆದಾರರು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • ಇನ್ಫರೆನ್ಸ್-ಮೊದಲ ಹಣಕಾಸು (Inference-First Financing): ಈ $400 ಮಿಲಿಯನ್ ಒಪ್ಪಂದವು ಬೃಹತ್ ಸಾಲಗಳಿಗಾಗಿ ಕೇವಲ ತರಬೇತಿ ನೀಡುವ GPUಗಳ ಬದಲಿಗೆ, ವಿಶೇಷ ಇನ್ಫರೆನ್ಸ್ ಚಿಪ್‌ಗಳನ್ನು ಅಡಮಾನವಾಗಿ ಬಳಸುವ ಕಡೆಗೆ ಬದಲಾವಣೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ.
  • ಕಾರ್ಯಕ್ಷಮತೆಯ ಹೆಚ್ಚಳ (Performance Gains): General Compute ಸಂಸ್ಥೆಯು SambaNova ನ SN50 ಚಿಪ್‌ಗಳನ್ನು ಬಳಸುವ ಮೂಲಕ GPU ಆಧಾರಿತ ಕ್ಲೌಡ್‌ಗಳಿಗಿಂತ 16 ಪಟ್ಟು ಹೆಚ್ಚು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸಾಧಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ, ಇವು ಉತ್ತಮ ವಿದ್ಯುತ್ ದಕ್ಷತೆ ಮತ್ತು ಸುಲಭ ನಿಯೋಜನೆಯನ್ನು ನೀಡುತ್ತವೆ.
  • ತಂತ್ರಜ್ಞಾನದ ವೈವಿಧ್ಯೀಕರಣ (Diversifying the Stack): ಈ ಕ್ರಮವು ಓಪನ್-ಸೋರ್ಸ್ LLM ಗಳ ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿ ಸ್ಕೇಲಿಂಗ್ ಅನ್ನು ಬೆಂಬಲಿಸಲು Nvidia ಅಲ್ಲದ ಸಿಲಿಕಾನ್‌ಗೆ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ಹೆಚ್ಚುತ್ತಿರುವ ಬೇಡಿಕೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ.