OpenAI એ સત્તાવાર રીતે તેની સમર્પિત સજ્જતા ટીમ (preparedness team) ને વિખેરી નાખી છે, જે AI જાયન્ટ દ્વારા અસ્તિત્વલક્ષી અને પ્રણાલીગત જોખમોને સંભાળવાની પદ્ધતિમાં એક સ્પષ્ટ માળખાગત ફેરફાર દર્શાવે છે. આ પગલું કેન્દ્રીય સુરક્ષા યુનિટને બદલે હાલના ડેવલપમેન્ટ પાઇપલાઇન્સમાં વણાયેલા વિતરિત મોડેલ દ્વારા બદલી રહ્યું છે.

કેન્દ્રીય સુરક્ષાથી વિતરિત જોખમ વ્યવસ્થાપન તરફ એક ફેરફાર

સજ્જતા ટીમ અગાઉ એનું મૂલ્યાંકન કરતી હતી કે અદ્યતન AI મોડેલ્સ, ઉદાહરણ તરીકે, કોર્પોરેટ ઈન્ફ્રાસ્ટ્રક્ચરને હેક કરી શકે છે કે નહીં, અને પછી નિવારણ વ્યૂહરચનાઓ તૈયાર કરતી હતી. Financial Times ના અહેવાલ મુજબ, ગયા મહિનાના અંતે આ યુનિટ બંધ કરી દેવામાં આવ્યું હતું.

OpenAI સુરક્ષા પ્રોટોકોલનો ત્યાગ કરી રહ્યું નથી. તેના બદલે, તે દેખરેખના કામને વિશિષ્ટ ક્ષેત્રોમાં—જૈવિક જોખમો, સાયબર સુરક્ષાના જોખમો—વિભાજિત કરી રહ્યું છે અને તે જવાબદારીઓને પ્રોડક્ટ અને રિસર્ચ ટીમોની અંદર સ્થાપિત કરી રહ્યું છે. Dylan Scandinaro, જે ફેબ્રુઆરીમાં Anthropic માંથી જોડાણ કર્યા પછી સજ્જતા ટીમનું નેતૃત્વ કરી રહ્યા હતા, તેઓ હવે “recursive self-improving” AI ના અસરો પર ધ્યાન કેન્દ્રિત કરશે, જે આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ (AGI) માટે એક મુખ્ય ક્ષેત્ર છે.

આંતરિક ઉથલપાથલ અને "પ્રોડક્ટ વિરુદ્ધ સુરક્ષા" ની ચર્ચા

આ પુનર્ગઠન ઉચ્ચ-સ્તરીય વિદાયો અને અન્ય સુરક્ષા યુનિટોના વિઘટન પછી થયું છે, જેમાં AGI રેડીનેસ અને સુપર-એલાઈનમેન્ટ ટીમોનો સમાવેશ થાય છે. એથિક્સ લીડ Chloé Bakalar, ચીફ ફ્યુચરિસ્ટ Josh Achiam, અને હેડ ઓફ સેફ્ટી Johannes Heidecke ના ગયાવાથી નિરીક્ષકોમાં ચિંતા જાગી છે.

OpenAI ના ભૂતપૂર્વ સંશોધક Jan Leike એવી દલીલ કરે છે કે કંપની લાંબા ગાળાના સુરક્ષા સંશોધન કરતા “ચળકતા ઉત્પાદનો” (shiny products) ને પ્રાધાન્ય આપી રહી છે. આ સંઘર્ષ એક વધતા જતા વિભાજનને રેખાંકિત કરે છે: ઝડપી બજાર કબજો વિરુદ્ધ વિનાશક મિસ-એલાઈનમેન્ટ્સને ટાળવા માટે જરૂરી સાવચેત, સંશોધન-સઘન કાર્ય.

IPO તરફ વ્યૂહાત્મક વળાંક

OpenAI તેના મોટા પાયે ઇનિશિયલ પબ્લિક ઓફરિંગ (IPO) ની તૈયારી કરી રહ્યું છે અને સાથે સાથે તેની સંસ્થાનું નવું સ્વરૂપ તૈયાર કરી રહ્યું છે. સંશોધન-આધારિત બિન-લાભકારી હાઇબ્રિડમાંથી પરંપરાગત વ્યાપારી પાવરહાઉસ તરફનું આ પરિવર્તન સ્કેલેબલ, ગ્રાહક-તૈયાર ઉત્પાદનો આપવા માટેનું દબાણ વધારે છે.

વ્યાપક AI ક્ષેત્ર માટે, આ વિકાસ એક સંકેત તરીકે કામ કરે છે. તે દર્શાવે છે કે જ્યારે અદ્યતન લેબ્સ શૈક્ષણિક જિજ્ઞાસામાંથી એન્ટરપ્રાઇઝ સોફ્ટવેર તરફ આગળ વધે છે ત્યારે કેવો ઘર્ષણ પેદા થાય છે. મુખ્ય ટીમોની અંદર સુરક્ષાને સમાવિષ્ટ કરવાથી ચપળતા વધી શકે છે, પરંતુ તે ઉચ્ચ-જોખમ ધરાવતા તારણોનું સંચાલન કરવા માટે જરૂરી સ્વતંત્ર તપાસ માટે જોખમ પણ ઊભું કરે છે.

મુખ્ય તારણો

  • વિકેન્દ્રિત સુરક્ષા: OpenAI તેની સ્વતંત્ર સજ્જતા ટીમ બંધ કરી રહ્યું છે અને હાલના યુનિટ્સમાં જ જૈવિક અને સાયબર જોખમ નિવારણને સમાવી રહ્યું છે.
  • નેતૃત્વનો ઘટાડો: આ ટીમનું વિઘટન અનેક સુરક્ષા અને એથિક્સ લીડર્સના ગયા પછી થયું છે, જે બદલાતી પ્રાથમિકતાઓ વિશે ચિંતા જગાવે છે.
  • વ્યાપારી ગતિ: આ પુનર્ગઠન OpenAI ના મોટા પાયે IPO તરફના પ્રયાસો સાથે સુસંગત છે, જે શુદ્ધ સુરક્ષા સંશોધનથી ઉત્પાદન-સંચાલિત સ્કેલિંગ તરફના વળાંકનો સંકેત આપે છે.