Genshijin কোডিং অ্যাসিস্ট্যান্ট জাপানিজ কোড রেসপন্স প্রায় ২৮% কমিয়ে এনেছে, কিন্তু ইংরেজি উত্তরগুলোকে ২.৫% দীর্ঘতর করেছে; এবং উভয় ক্ষেত্রেই মোট API বিল বৃদ্ধি পেয়েছে।

যারা AI-জেনারেটেড কোডের জন্য অর্থ প্রদান করেন, তারা এর প্রভাব অনুভব করতে পারেন। টোকেন-ভিত্তিক প্রাইসিং প্রম্পট বা আউটপুটের প্রতিটি অতিরিক্ত শব্দকে সরাসরি ডলারের খরচে রূপান্তরিত করে। এমন একটি টুল যা একটি ভাষাকে ছোট করে অন্যটিকে বড় করে তোলে, তা খরচের হিসাবকে নাটকীয়ভাবে পরিবর্তন করে দিতে পারে।

পরীক্ষাটি যেভাবে চালানো হয়েছিল

এই পরীক্ষায় জাপানিজ এবং ইংরেজি ভাষায় ১৯২টি সফটওয়্যার-ইঞ্জিনিয়ারিং প্রম্পট অন্তর্ভুক্ত ছিল। গবেষকরা চারটি রেসপন্স কনফিগারেশনের অধীনে প্রতিটি কুয়েরি মডেলের কাছে পাঠিয়েছিলেন: একটি সাধারণ বেসলাইন এবং তিনটি ভিন্ন ভিন্ন ইন্সট্রাকশন সেট সহ Genshijin skill ব্যবহার করা ভ্যারিয়েশন। এই skill-টি প্রম্পটের সাথে অতিরিক্ত নির্দেশনা যুক্ত করার মাধ্যমে কাজ করে, যা অতিরিক্ত ইনপুট টোকেন খরচ করে।

তারা টোকেনের মাধ্যমে আউটপুটের দৈর্ঘ্য পরিমাপ করেছিলেন এবং মোট API খরচ বের করার জন্য ইনপুট ও আউটপুট টোকেনের খরচ যোগ করেছিলেন।

সংখ্যাগুলো কী বলছে

  • Genshijin সক্রিয় থাকাকালীন জাপানিজ আউটপুট ২৭.৫% কমেছে।
  • একই পরিস্থিতিতে ইংরেজি আউটপুট ২.৫% বেড়েছে।
  • উভয় ভাষার ক্ষেত্রেই মোট API খরচ বৃদ্ধি পেয়েছে।

খরচের এই বৃদ্ধি Genshijin যে অতিরিক্ত নির্দেশনাগুলো যুক্ত করে তা থেকে আসে। মডেলটি কোড জেনারেট করা শুরু করার আগেই সেই নির্দেশনাগুলো টোকেন যোগ করে দেয়। এই পরীক্ষায়, ছোট জাপানিজ আউটপুট থেকে টোকেন সাশ্রয় কখনোই প্রয়োজনীয় অতিরিক্ত ইনপুট টোকেনের তুলনায় বেশি ছিল না।

খরচ সমান করতে (break even), একটি জাপানিজ কুয়েরির প্রায় ৪৭৯টি আউটপুট টোকেন কমাতে হতো, যেখানে একটি ইংরেজি কুয়েরির ক্ষেত্রে ৪৩৫টি টোকেন কমানো প্রয়োজন ছিল। পরিমাপকৃত সাশ্রয় সেই সীমা বা থ্রেশহোল্ডের চেয়ে কম ছিল।

ভাষার এই পার্থক্যের কারণ কী?

জাপানিজ ভাষায় প্রায়শই সম্মানসূচক শব্দ (honorifics) এবং অতিরিক্ত শব্দবহুল বাক্যাংশের মাধ্যমে অপ্রয়োজনীয় অংশ (padding) থাকে। Genshijin-এর প্রম্পট টুইকগুলো সেই অতিরিক্ত অংশকে লক্ষ্য করে, অপ্রয়োজনীয় শব্দ বাদ দেয় এবং রেসপন্সকে সংকুচিত করে। বিপরীতে, ইংরেজি ভাষা ইতিমধ্যে বেশি সংক্ষিপ্ত হওয়ার প্রবণতা রাখে, তাই একই প্রম্পট অনিচ্ছাকৃতভাবে কিছু অতিরিক্ত অংশ (boilerplate) যোগ করতে পারে যা উত্তরটিকে দীর্ঘতর করে তোলে।

ডেভেলপারদের যা মনে রাখা উচিত

  • দীর্ঘ জাপানিজ ব্যাখ্যা: আপনি যদি নিয়মিত জাপানিজ ভাষায় বিস্তারিত ডিজাইন নোট বা ব্যাপক কমেন্ট চান, তবে Genshijin অপ্রয়োজনীয় অংশ কমিয়ে আউটপুটের টোকেন সংখ্যা কমাতে পারে।
  • সংক্ষিপ্ত কুয়েরি: ছোট প্রশ্নের জন্য, একটি সাধারণ “answer concisely” (সংক্ষেপে উত্তর দাও) নির্দেশনা পুরো Genshijin skill ব্যবহারের চেয়ে বেশি কার্যকর, যা ছোট উত্তর এবং কম খরচ নিশ্চিত করে।
  • ইংরেজি-নির্ভর ওয়ার্কফ্লো: দীর্ঘতর আউটপুটের জন্য প্রস্তুত থাকুন। খরচ কমবে বলে ধরে নেওয়ার আগে এর প্রভাব পরিমাপ করে নিন।
  • নিজে যাচাই করুন: প্রম্পট স্টাইল, মডেল ভার্সন এবং কাজের জটিলতার ওপর ভিত্তি করে টোকেন ব্যবহার পরিবর্তিত হয়। বিজ্ঞাপিত শতাংশের ওপর নির্ভর না করে নিজেই বেঞ্চমার্ক পরীক্ষা করুন।

কিছু ডকুমেন্টেশনে যে ৭৫% হ্রাসের কথা বলা হয়েছে, তা শুধুমাত্র আউটপুট টোকেন সংখ্যার ক্ষেত্রে প্রযোজ্য, মোট বিলের ক্ষেত্রে নয়। যেসব ডেভেলপার শুধুমাত্র সেই সংখ্যার দিকে নজর দেন, তারা তাদের ইনভয়েস একই থাকা বা এমনকি বেড়ে যাওয়ার ঘটনায় অবাক হতে পারেন।

পরবর্তী করণীয়

মূল কথা: Genshijin জাপানিজ কোড আউটপুট উল্লেখযোগ্যভাবে ছোট করতে পারে, কিন্তু এটি যে অতিরিক্ত প্রম্পট টোকেন যোগ করে তা তাৎক্ষণিক খরচের সুবিধা কমিয়ে দেয়—এমনকি এটি ইংরেজি রেসপন্সকেও বড় করে তুলতে পারে। এটি বেছে বেছে ব্যবহার করুন এবং সর্বদা আপনার নিজস্ব কাজের ওপর টোকেনের প্রভাব যাচাই করে নিন।

উৎস: https://dev.to/anicca_301094325e/coding-assistant-tests-japanese-28-shorter-english-3-longer-4f83