Genshijin కోడింగ్ అసిస్టెంట్ జపనీస్ కోడ్ స్పందనలను సుమారు 28% తగ్గించింది, కానీ ఇంగ్లీష్ సమాధానాలను 2.5% పెంచింది, మరియు ఈ రెండు సందర్భాల్లోనూ మొత్తం API బిల్లు పెరిగింది.
AI-జనరేటెడ్ కోడ్ కోసం చెల్లిస్తున్న ఎవరైనా ఈ ప్రభావాన్ని అనుభవిస్తారు. టోకెన్ ఆధారిత ధరల విధానం వల్ల, ప్రాంప్ట్ లేదా అవుట్పుట్లో ఉండే ప్రతి అదనపు పదం ఖర్చుగా మారుతుంది. ఒక భాషను తగ్గించి, మరొక భాషను పెంచే సాధనం ఖర్చు గణనలను గణనీయంగా మార్చేస్తుంది.
పరీక్ష ఎలా నిర్వహించబడింది
ఈ ప్రయోగంలో జపనీస్ మరియు ఇంగ్లీష్ భాషల్లో 192 సాఫ్ట్వేర్-ఇంజనీరింగ్ ప్రాంప్ట్లను పరిశీలించారు. పరిశోధకులు ప్రతి క్వెరీని నాలుగు రకాల సమాధాన కాన్ఫిగరేషన్ల కింద మోడల్కు పంపారు: ఒక సాధారణ బేస్లైన్ మరియు వివిధ ఇన్స్ట్రక్షన్ సెట్లతో Genshijin స్కిల్ను ఉపయోగించే మూడు వైవిధ్యాలు. ఈ స్కిల్ ప్రాంప్ట్కు అదనపు మార్గదర్శకత్వాన్ని జోడించడం ద్వారా పనిచేస్తుంది, దీనివల్ల అదనపు ఇన్పుట్ టోకెన్లు వినియోగించబడతాయి.
వారు అవుట్పుట్ పొడవును టోకెన్లలో కొలిచారు మరియు మొత్తం API ఖర్చును తెలుసుకోవడానికి ఇన్పుట్ మరియు అవుట్పుట్ టోకెన్ల ఖర్చును కలిపారు.
గణాంకాలు ఏం చెబుతున్నాయి
- Genshijin యాక్టివ్గా ఉన్నప్పుడు జపనీస్ అవుట్పుట్ 27.5% తగ్గింది.
- అదే పరిస్థితుల్లో ఇంగ్లీష్ అవుట్పుట్ 2.5% పెరిగింది.
- రెండు భాషలకూ, మొత్తం API ఖర్చు పెరిగింది.
Genshijin జోడించే అదనపు ఇన్స్ట్రక్షన్ల వల్ల ఖర్చు పెరిగింది. మోడల్ కోడ్ను జనరేట్ చేయడం ప్రారంభించకముందే ఆ ఇన్స్ట్రక్షన్లు టోకెన్లను జోడిస్తాయి. ఈ పరీక్షలో, తక్కువ జపనీస్ అవుట్పుట్ వల్ల కలిగే టోకెన్ ఆదా, అవసరమైన అదనపు ఇన్పుట్ టోకెన్ల కంటే ఎక్కువగా లేదు.
ఖర్చు సమతుల్యంగా ఉండాలంటే (break even), జపనీస్ క్వెరీ సుమారు 479 అవుట్పుట్ టోకెన్లను తగ్గించాల్సి ఉంటుంది, అదే సమయంలో ఇంగ్లీష్ క్వెరీ 435 టోకెన్ల తగ్గింపును కలిగి ఉండాలి. కొలిచిన ఆదా ఆ పరిమితుల కంటే తక్కువగా ఉంది.
భాషా వ్యత్యాసం ఎందుకు?
జపనీస్ భాషలో తరచుగా గౌరవార్థక పదాలు (honorifics) మరియు అనవసరమైన వివరణాత్మక పదజాలం (verbose phrasing) ఉంటాయి. Genshijin యొక్క ప్రాంప్ట్ మార్పులు ఆ అనవసరమైన పదాలను తొలగించి, సమాధానాన్ని కుదించడంపై దృష్టి పెడతాయి. దీనికి విరుద్ధంగా, ఇంగ్లీష్ ఇప్పటికే సంక్షిప్తంగా ఉంటుంది, కాబట్టి అదే ప్రాంప్ట్లు అనుకోకుండా అదనపు సమాచారాన్ని (boilerplate) జోడించి సమాధానాన్ని పొడిగించవచ్చు.
డెవలపర్లు గుర్తుంచుకోవలసిన విషయాలు
- సుదీర్ఘమైన జపనీస్ వివరణలు: మీరు క్రమం తప్పకుండా జపనీస్లో వివరణాత్మక డిజైన్ నోట్స్ లేదా విస్తృతమైన కామెంట్లను కోరుతుంటే, Genshijin అనవసరమైన విషయాలను తగ్గించి అవుట్పుట్ టోకెన్ల సంఖ్యను తగ్గించగలదు.
- చిన్న క్వెరీల కోసం: చిన్న ప్రశ్నల కోసం, పూర్తి Genshijin స్కిల్ కంటే “answer concisely” అనే సాధారణ ఇన్స్ట్రక్షన్ మెరుగ్గా పనిచేస్తుంది, ఇది తక్కువ ఖర్చుతో కూడిన చిన్న సమాధానాలను ఇస్తుంది.
- ఇంగ్లీష్ ఆధారిత వర్క్ఫ్లోలు: అవుట్పుట్ పొడవు పెరుగుతుందని ఆశించండి. ఖర్చు తగ్గుతుందని అనుకునే ముందు దాని ప్రభావాన్ని కొలవండి.
- మీరే స్వయంగా కొలవండి: టోకెన్ వినియోగం ప్రాంప్ట్ శైలి, మోడల్ వెర్షన్ మరియు టాస్క్ సంక్లిష్టతపై ఆధారపడి మారుతుంది. ప్రకటనలలోని శాతాలపై ఆధారపడకుండా, మీ స్వంత బెంచ్మార్క్లను నిర్వహించండి.
కొన్ని డాక్యుమెంటేషన్లు చెప్పుకునే 75% తగ్గింపు కేవలం అవుట్పుట్ టోకెన్ల సంఖ్యకు మాత్రమే వర్తిస్తుంది, మొత్తం బిల్లుకు కాదు. కేవలం ఆ సంఖ్యపైనే దృష్టి పెట్టే డెవలపర్లు, తమ ఇన్వాయిస్లు మారకుండా ఉండటం లేదా పెరగడం చూసి ఆశ్చర్యపోవచ్చు.
తదుపరి గమనించవలసినవి
ముఖ్య గమనిక: Genshijin జపనీస్ కోడ్ అవుట్పుట్ను గణనీయంగా తగ్గించగలదు, కానీ అది జోడించే అదనపు ప్రాంప్ట్ టోకెన్లు తక్షణ ఖర్చు ప్రయోజనాన్ని లేకుండా చేస్తాయి—అంతేకాకుండా ఇది ఇంగ్లీష్ సమాధానాలను పెంచవచ్చు. దీనిని ఎంపిక చేసినప్పుడు మాత్రమే ఉపయోగించండి మరియు మీ స్వంత పనిభారంపై టోకెన్ ప్రభావాన్ని ఎల్లప్పుడూ తనిఖీ చేయండి.
మూలం: https://dev.to/anicca_301094325e/coding-assistant-tests-japanese-28-shorter-english-3-longer-4f83