Anthropic reveals : આજે AI ટૂલ્સ ખૂબ જ અદ્યતન છે. પરંતુ જેમ જેમ Anthropic અને OpenAI જેવી કંપનીઓ વધુ અદ્યતન AI મોડેલો બનાવવાનું ચાલુ રાખે છે, તેમ તેમ સંભવિત દુરુપયોગનું જોખમ વધ્યું છે. એક વિગતવાર સલામતી અહેવાલમાં, Anthropic એ ખુલાસો કર્યો છે કે દેશો અને જૂથો ક્લાઉડનો દુરુપયોગ કેવી રીતે કરવાનો પ્રયાસ કરી રહ્યા છે, જેમાં જાસૂસી, સામૂહિક દેખરેખ અને જૈવિક શસ્ત્રોની ઘટનાઓનો સમાવેશ થાય છે.
અહેવાલમાં, Anthropic ડિસેમ્બર 2025 થી ઓગસ્ટ 2026 વચ્ચે અનેક પ્રયાસોમાંથી પસાર થાય છે જેને તે વિક્ષેપિત કરવામાં સફળ રહ્યો. કંપનીના જણાવ્યા મુજબ, આ કેસોમાં શંકાસ્પદ રાજ્ય-સમર્થિત જૂથો, નાણાકીય રીતે પ્રેરિત ગુનેગારો, પ્રચાર નેટવર્ક્સ, સ્પાયવેર વિક્રેતાઓ અને રાજકીય રીતે પ્રેરિત કલાકારો સામેલ હતા.
કંપનીએ દર્શાવેલ કેસોમાં ક્લાઉડ હાઈકુ, સોનેટ અને ઓપસ મોડેલનો ઉપયોગ કરવામાં આવ્યો ન હતો. Anthropic એ કહ્યું કે દુરુપયોગના કોઈપણ કેસમાં ક્લાઉડ ફેબલ અથવા માયથોસ-ક્લાસ મોડેલનો સમાવેશ થતો નથી, એક નિસ્યંદન કેસ સિવાય. તેણે કહ્યું કે ઉદાહરણો લાક્ષણિક દુરુપયોગ નહોતા, પરંતુ અત્યાર સુધી ઓળખાયેલી સૌથી નોંધપાત્ર અને નવીન ધમકી પ્રવૃત્તિ હતી.
Anthropic reveals : બાયોવેપન્સ માટે ક્લાઉડનો ઉપયોગ?
એન્થ્રોપિકે સમજાવ્યું કે સૌથી સંવેદનશીલ કેસોમાં કાર્યકારી વૈજ્ઞાનિકો દ્વારા જૈવિક સંશોધનનો સમાવેશ થાય છે, જેમાં કેટલાકને તે રાજ્ય-સમર્થિત વપરાશકર્તાઓ તરીકે વર્ણવે છે, કારણ કે તે હંમેશા નક્કી કરી શકતું નથી કે તેમનું કાર્ય કાયદેસર છે કે નુકસાન પહોંચાડવાનો હેતુ છે.
એન્થ્રોપિકે જણાવ્યું હતું કે તેણે સાવધાની સાથે આગળ વધવાનું પસંદ કર્યું છે, દલીલ કરી હતી કે માન્ય જૈવિક સંશોધન એવા કાર્ય સાથે ઓવરલેપ થઈ શકે છે જે ખતરનાક રોગકારક જીવાણુઓ બનાવવામાં મદદ કરી શકે છે. “તમે કોઈને કોમિક બુકમાં એવું કહેતા નથી જોઈ રહ્યા કે, ‘અરે, હું બધાને મારવા માટે જૈવિક શસ્ત્ર બનાવવા માંગુ છું,'” એન્થ્રોપિકના થ્રેટ ઇન્ટેલિજન્સના વડા જેકબ ક્લેઇને એક મુલાકાતમાં કહ્યું. “તે એક અતિ સૂક્ષ્મ પરિસ્થિતિ છે.”
એન્થ્રોપિકે પાંચ જૈવિક દુરુપયોગ કેસ સ્ટડીનું દસ્તાવેજીકરણ કર્યું. મે મહિનાના એક કેસમાં, એક વૈજ્ઞાનિકે ચિકનગુનિયા વાયરસ પર ગેઇન-ઓફ-ફંક્શન સંશોધન માટે ગ્રાન્ટ અરજી તૈયાર કરવામાં મદદ માંગી, જે મચ્છરજન્ય બીમારી છે જે મહિનાઓ સુધી ગંભીર પીડા અને અન્ય લક્ષણોનું કારણ બની શકે છે. કંપનીએ સમજાવ્યું કે પ્રસ્તાવિત સંશોધનમાં એન્જિનિયરિંગ પરિવર્તનનો સમાવેશ થાય છે જે વાયરસને વધુ હાનિકારક બનાવશે કારણ કે તે વારંવાર જીવંત પ્રાણીઓને ચેપ લગાવે છે. એન્થ્રોપિકે કહ્યું કે વિનંતી આંશિક રીતે ચિંતાજનક હતી કારણ કે તેનું માનવું હતું કે આ કાર્ય લશ્કરી સંશોધન સંસ્થા માટે બનાવાયેલ હતું.
Anthropic reveals : એન્થ્રોપિક મુજબ, કેસને તેના જૈવિક સલામતી વર્ગીકરણ દ્વારા અવરોધિત કરવામાં આવ્યો હતો, પરંતુ વપરાશકર્તાએ પછી તૃતીય-પક્ષ ચોરી પ્લેટફોર્મ દ્વારા નિયંત્રણની આસપાસ ફર્યો જેણે પાછળથી ક્લાઉડ પાલન ન કરતા ત્યારે સ્પર્ધકના મોડેલમાં ફોલબેક ઉમેર્યું.
બીજા કિસ્સામાં, એન્થ્રોપિકે જાહેર કર્યું કે અસંબંધિત ગ્રાહકોને સેવા આપતા પુનર્વિક્રેતા રિલેએ એક વપરાશકર્તાને ઓપસ 5 પર શરૂઆતથી અંત સુધી ઓર્થોપોક્સવાયરસ રોગપ્રતિકારક-ચોરી ગ્રાન્ટ એપ્લિકેશનનો ડ્રાફ્ટ બનાવવાની મંજૂરી આપી, જેમાં શીતળાનો સમાવેશ થાય છે. એક અલગ કિસ્સામાં, ઘણા અઠવાડિયા સુધી એવિયન ફ્લૂ સસ્તન પ્રાણીઓ-અનુકૂલન પ્રયોગોનું આયોજન કરી રહેલા સંશોધકને એન્થ્રોપિકના સૌથી નબળા મોડેલ સ્તર સુધી મર્યાદિત રાખવામાં આવ્યો હતો.
એન્થ્રોપિકે બે રાજ્ય-સમર્થિત ઝેર અથવા ઝેર પુનઃડિઝાઇન કાર્યક્રમોને પણ વિક્ષેપિત કર્યા અને, રાજ્ય-સંબંધિત પ્રવૃત્તિના 30-દિવસના સ્વીપમાં, લગભગ 35 અલગ સંશોધન પ્રયાસો શોધી કાઢ્યા, જેમાંથી મોટાભાગના કાયદેસર નાગરિક વિજ્ઞાન હતા પરંતુ કેટલાક બેવડા-ઉપયોગ. “અમે દાવો કરતા નથી કે તેઓ નુકસાન પહોંચાડવાનો ઇરાદો ધરાવતા હતા, અને તેમને અથવા તેમની પ્રયોગશાળાઓને ઓળખવાથી તેમને નુકસાન થઈ શકે છે,” કંપનીએ લખ્યું.
એન્થ્રોપિકે જણાવ્યું હતું કે વપરાશકર્તાઓએ એવા દેશોની ઍક્સેસને અવરોધિત કરવા માટે રચાયેલ નિયંત્રણોને તોડી નાખ્યા હતા જ્યાં ક્લાઉડ ઉપલબ્ધ નથી અને તેમના સંશોધનના હેતુને અસ્પષ્ટ કરવાનો પ્રયાસ કર્યો હતો. કંપનીએ એકાઉન્ટ્સ પર પ્રતિબંધ મૂક્યો હતો અને, જૈવિક કિસ્સાઓમાં, ફક્ત પ્રતિબંધો પર જ નહીં પરંતુ સખત ઇનકાર પર પણ આધાર રાખ્યો હતો, નબળા મોડેલ સ્તરો અને સક્રિય સ્વીપ્સ પર ડાઉનગ્રેડ કર્યા હતા.
Anthropic reveals : રાજ્ય-જોડાયેલા જૂથો AI સાથે શસ્ત્રો બનાવવાનો પ્રયાસ કરી રહ્યા હતા
એન્થ્રોપિક કહે છે કે, તેમને પરંપરાગત શસ્ત્રો માટે સોફ્ટવેર વિકસાવવા માટે ધ ક્લાઉડનો ઉપયોગ કરવાના પ્રયાસો પણ મળ્યા હતા, જેમાં અગ્નિ હથિયારો, મિસાઇલો, સશસ્ત્ર ડ્રોન અને બોમ્બનો સમાવેશ થાય છે. કંપનીના જણાવ્યા મુજબ, તેણે ચીનમાં ત્રણ કેસ, રશિયામાં બે અને યમનમાં એક કેસ જોયો હતો.
યેમેનીના કિસ્સામાં, કંપનીએ જણાવ્યું હતું કે ખરાબ કલાકારોના એક જૂથે માર્ગદર્શિત રોકેટ, 2,000 કિલોમીટરથી વધુ રેન્જમાં મલ્ટીસ્ટેજ બેલિસ્ટિક મિસાઇલ અને હાઇપરસોનિક ગ્લાઇડ વાહન વેરિઅન્ટ માટે સોફ્ટવેર વિકસાવતી વખતે માનવ માર્ગદર્શન, નેવિગેશન અને નિયંત્રણ એન્જિનિયરોની જગ્યાએ ક્લાઉડ કોડનો ઉપયોગ કર્યો હતો. એન્થ્રોપિકે કહ્યું કે જૂથે માર્ગદર્શિત રોકેટનું પરીક્ષણ કર્યું હતું અને ફિલ્ડ ટેસ્ટ નિષ્ફળ ગયો હોય તેવું લાગે છે.
રશિયામાં, એન્થ્રોપિકને એક ફ્રીલાન્સ ઓપરેટર મળ્યો, જે ડ્રોનડોક અથવા સેરાફિમ નામના પ્રયાસ સાથે જોડાયેલો હતો, જે ક્લાઉડ કોડનો ઉપયોગ કરીને ફુલ-સ્ટેક ઓટોનોમસ ફર્સ્ટ-પર્સન-વ્યૂ કામિકાઝ ડ્રોન સ્વોર્મનું એન્જિનિયરિંગ કરતો હતો. કંપનીએ જણાવ્યું હતું કે ઓનબોર્ડ મોડેલ “વ્યક્તિ” વર્ગ સહિત લક્ષ્યો પસંદ કરી શકે છે, અને સ્ક્રેપ કરેલા યુક્રેનિયન લડાઇ ફૂટેજમાંથી વિઝન તાલીમનો ઉપયોગ કરીને લૂપમાં માનવ વિના વિસ્ફોટ કરી શકે છે.
ચીનમાં, એન્થ્રોપિકે જણાવ્યું હતું કે લશ્કરી-ઔદ્યોગિક ક્ષેત્ર સાથે સંભવિત રીતે જોડાયેલા તરીકે વર્ણવેલ એક એકાઉન્ટમાં 16-મોડ્યુલ ઇલેક્ટ્રોનિક યુદ્ધ અને હવાઈ-રક્ષા દમન સ્યુટ બનાવવા માટે ક્લાઉડનો ઉપયોગ કરવામાં આવ્યો હતો. તેણે કહ્યું કે વપરાશકર્તાએ પાછળથી તાઈમાં સિમ્યુલેશનને સામાન્ય દૃશ્યથી 12 વાસ્તવિક લક્ષ્યો પર ખસેડ્યું.