જનરેટિવ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) મોડલ પ્રદર્શિત કરે છે તે ચોક્કસ વર્તણૂકીય પેટર્નનો સંદર્ભ આપવા માટે તાજેતરમાં આભાસનો ઉપયોગ કરવામાં આવ્યો છે.AI આભાસ ત્યારે થાય છે જ્યારે મોડેલ સંપૂર્ણપણે બનાવટી પ્રતિભાવો ઉત્પન્ન કરે છે. બુદ્ધિગમ્ય પરંતુ ખોટા જવાબોનો વાસ્તવિકતા અથવા તાલીમ ડેટામાં કોઈ આધાર નથી.આ આભાસનું સૌથી વિચિત્ર પાસું સ્વર છે: પ્રતિક્રિયા, ગૂંચવણભરી અને શોધાયેલ હોવા છતાં, સંપૂર્ણપણે ખાતરીપૂર્વક લાગે છે. આ પ્રતિભાવો અનિશ્ચિતતાના કોઈ નિશાન બતાવતા નથી, જે ઘણીવાર વપરાશકર્તાઓને ખોટી માહિતી પર વિશ્વાસ કરવા તરફ દોરી જાય છે.વપરાશકર્તાઓને તેમના પિઝા પર ગમ મૂકવાની ભલામણ કરવાથી માંડીને અસ્તિત્વમાં ન હોય તેવા પુસ્તકોની ઉનાળામાં વાંચવાની સૂચિ બનાવવા સુધી (જે તેને અખબારમાં પણ બનાવી દે છે!), AI આભાસ છેલ્લા કેટલાક વર્ષોમાં અસંખ્ય વખત ઇન્ટરનેટ વાયરલતાનો વિષય બન્યો છે.આ વિચિત્ર ઘટના ડિસેક્શન માંગે છે.
AI આભાસ શું છે?
શા માટે AI મોડલ્સ આભાસ કરે છે?ભાષાના મોડલ ભ્રમિત કરે છે કારણ કે પ્રમાણભૂત તાલીમ અને મૂલ્યાંકન પ્રક્રિયાઓ અનિશ્ચિતતાને સ્વીકારવાને બદલે અનુમાન લગાવવાનું પુરસ્કાર આપે છે, OpenAI માં વિદ્વાનો દ્વારા પ્રકાશિત સંશોધન પેપર સૂચવે છે: ‘ભાષાના નમૂનાઓ આભાસ કેમ કરે છે?’પેપર આને સામ્યતા સાથે સમજાવે છે: બહુવિધ પસંદગીના પ્રશ્નો. જો નસીબ તમારી તરફેણ કરે છે, તો અજાણ્યા પ્રશ્ન પર એક વાહિયાત અનુમાન સાચો હોઈ શકે છે. બીજી બાજુ, તેને ખાલી છોડીને? તે શૂન્યની ખાતરી આપે છે. લાર્જ લેંગ્વેજ મોડલ (LLMS) એ જ રીતે ચોકસાઈ અને પ્રશ્નોની ટકાવારીના આધારે વર્ગીકૃત કરવામાં આવે છે.આ વર્તમાન મૂલ્યાંકન પદ્ધતિ અનિશ્ચિતતાની પ્રામાણિક અભિવ્યક્તિને બદલે અનુમાનને પ્રોત્સાહિત કરીને ખોટા પ્રોત્સાહનો સેટ કરે છે.વધુમાં, ભાષા મોડેલો એક સમયે એક શબ્દની આગાહી કરીને સંકેતોને પ્રતિસાદ આપે છે. તે માત્ર સંભાવના અને પેટર્નનો પ્રશ્ન છે. આવી પ્રક્રિયામાં ભૂલો અનિવાર્ય છે.
શા માટે AI મોડલ્સ આભાસ કરે છે?
ચિંતાજનક પેટર્નઑક્ટોબર 2024 માં, એસોસિએટેડ પ્રેસે હોસ્પિટલોમાં ઓપનએઆઈના ટ્રાન્સક્રિપ્શન ટૂલ વ્હિસ્પરના ઉપયોગ અંગેની તપાસ પ્રકાશિત કરી. તેમાં ઉમેર્યું હતું કે “માનવ-સ્તરની મજબૂતાઈ અને ચોકસાઈ” હોવા છતાં, વ્હીસ્પર ઘણીવાર ટેક્સ્ટના ટુકડાઓ અને તે પણ સંપૂર્ણ વાક્યો બનાવવાનું વલણ ધરાવે છે જે પહેલાં ક્યારેય કહેવામાં આવ્યું ન હતું.“હાઇ-રિસ્ક ડોમેન્સ” માં વ્હિસ્પરનો ઉપયોગ ન કરવા અંગે OpenAI ની ચેતવણી હોવા છતાં, તેનો ઉપયોગ કોઈપણ રીતે ડૉક્ટર-દર્દીના પરામર્શને ટ્રાંસ્ક્રાઇબ કરવા માટે થતો હોવાનું જણાયું હતું, કારણ કે તે તબીબી પ્રદાતાઓને અહેવાલો લખવામાં અને નોંધ લેવામાં સમય બચાવવા સક્ષમ બનાવે છે.“તે નિષ્ણાતો (એક ડઝનથી વધુ સોફ્ટવેર એન્જિનિયરો, ડેવલપર્સ અને શૈક્ષણિક સંશોધકો)એ જણાવ્યું હતું કે ઉદ્યોગમાં આભાસ તરીકે ઓળખાતા કેટલાક શોધ ગ્રંથોમાં વંશીય ટિપ્પણી, હિંસક રેટરિક અને કાલ્પનિક તબીબી સારવારનો પણ સમાવેશ થઈ શકે છે,” અહેવાલમાં જણાવાયું છે.AI-સંચાલિત ટ્રાન્સક્રિપ્શન સાથેનો મુદ્દો માત્ર બાંધકામનો જ નથી, પણ પૂર્વગ્રહનો પણ છે. અમેરિકન ભાષાશાસ્ત્રી મેરી બુચહોલ્ટ્ઝના શબ્દોમાં, “બધા ટ્રાન્સક્રિપ્શન બાજુઓ લે છે, ચોક્કસ અર્થઘટનને સક્ષમ કરે છે, ચોક્કસ રુચિઓને આગળ ધપાવે છે, ચોક્કસ બોલનારાઓની તરફેણ કરે છે.”મે 2026માં, એકાઉન્ટિંગ ફર્મ અર્ન્સ્ટ એન્ડ યંગ (EY) એ ટાંકણીની ભૂલો, નકલી ફૂટનોટ્સ અને AI દ્વારા આભાસ હોવાના શંકાસ્પદ ડેટા માટે ફ્લેગ કરાયેલ અહેવાલ પાછો ખેંચ્યો હતો. AI-ડિટેક્શન સ્ટાર્ટઅપ GPTZero દ્વારા કરવામાં આવેલી તપાસમાં બહાર આવ્યું છે કે EY કેનેડાના લોયલ્ટી પ્રોગ્રામ સુરક્ષા પગલાં પરના સાયબર સિક્યુરિટી રિપોર્ટમાં એવા અભ્યાસોને ટાંકવામાં આવ્યા છે જે અસ્તિત્વમાં નથી.‘ચેઝિંગ ધ હેલ્યુસિનેશન્સ’ નામનો અહેવાલ સૂચવે છે કે કેવી રીતે વિરોધાભાસી સંદર્ભો, નિમ્ન-ગુણવત્તાના સ્ત્રોતો અને જૂના આંકડા એ તમામ AI સૂચક છે.. અહેવાલ એક ચેતવણી સાથે સમાપ્ત થયો: “બનાવટી માહિતી કૂવાને ઝેર આપે છે અને ભવિષ્યના સંશોધકોને ગેરમાર્ગે દોરે છે, ખાસ કરીને જ્યારે કોઈ મોટી કન્સલ્ટિંગ ફર્મ દ્વારા પ્રકાશિત કરવામાં આવે છે. ક્લાઉડ, ચેટજીપીએસ, પર્પ્લેક્સીટી એ EY ના ખામીયુક્ત અહેવાલમાંથી તમામ સુપરફિસિયલ આભાસ છે.”
જ્યારે AI તેના સ્ત્રોતની નકલ કરે છે
કેવી રીતે AI આભાસ શિક્ષણવિદો, સંશોધકોને અસર કરે છે“ઘણા પ્રસંગોએ જ્યારે મેં પુસ્તકો અથવા સુપ્રીમ કોર્ટના કેસોના સંદર્ભો માટે પૂછ્યું, ત્યારે એઆઈએ આભાસ કર્યો અને વિશ્વાસપૂર્વક ખોટા ટાંકણા આપ્યા જે શરૂઆતમાં સચોટ લાગતા હતા. પરંતુ જ્યારે મેં મૂળ સ્ત્રોતો સાથે તપાસ કરવાનું શરૂ કર્યું, ત્યારે મને તેઓ ખોટા જણાયા,” ઈન્ડિયન ઈન્સ્ટિટ્યૂટ ઓફ માસ કોમ્યુનિકેશનના પ્રોફેસર (ડૉ) આનંદ પ્રધાને કહ્યું.GPTZero ના સંશોધકોએ ‘સિટિંગ વાઇબ’ શબ્દનો ઉપયોગ કર્યો છે તે વર્ણવવા માટે કે કેવી રીતે જનરેટિવ AI મોડલ ટાંકણો અથવા શૈક્ષણિક સંદર્ભો બનાવે છે જે વિશ્વસનીય લાગે છે પરંતુ કાં તો ખોટા એટ્રિબ્યુશન છે અથવા સંપૂર્ણપણે બનાવટી છે.તેમણે આ ઘટનાને ત્રણ અલગ પેટર્નમાં વર્ગીકૃત કરી છે, જ્યાં માનવીય ભૂલોને છૂટ આપવામાં આવે છે:
- સંપૂર્ણપણે બનાવટી ટાંકણો (નકલી લેખક, શીર્ષક અથવા કન્ટેનર/લોકેટર)
- બે અથવા વધુ વાસ્તવિક સંદર્ભો જોડાયેલા છે અથવા ખોટી રીતે સંલગ્ન છે (એક પેપરના લેખકો બીજા પેપરના શીર્ષક સાથે જોડાયેલા છે)
- મૂળ અવતરણ, ભારે બદલાયેલ અથવા વ્યાખ્યાયિત
ભ્રામક અવતરણો માત્ર પ્રશ્નમાં કામની અખંડિતતા પર જ પ્રશ્નો ઉભા કરે છે, પરંતુ સમગ્ર શિક્ષણ અને સંશોધનના ભવિષ્ય માટે પણ ખતરો ઉભો કરે છે.માસ્ટરનો વિદ્યાર્થી AI-જનરેટેડ શિક્ષણશાસ્ત્રના પ્રતિભાવોની અવિશ્વસનીયતાને કારણે થતી સતત અસ્વસ્થતા વિશે વાત કરે છે. “જેમિની વેબસાઇટ્સ સાથે લિંક કરે છે જેમાંથી તે તેના સારાંશ બનાવે છે. જો કે, એવી ઘણી વખત આવી છે જ્યારે મેં લિંકને ઍક્સેસ કરવાનો પ્રયાસ કર્યો છે પરંતુ તે ઓપન સોર્સ ન હતો તેથી હું હકીકત-તપાસ કરી શક્યો નહીં. અન્ય સમયે, હું વેબસાઈટને કંઈક અલગ જ કહેતી જોઉં છું,” કોલકાતાની લોરેટો કોલેજમાં અંગ્રેજી સાહિત્યમાં માસ્ટર ડિગ્રી કરી રહેલા ઉષાસી ચૌધરીએ જણાવ્યું હતું.ઉષાસીએ કહ્યું કે જ્યારે પણ સાહિત્ય અથવા ફિલસૂફીમાં કોઈ ખ્યાલનો સંદર્ભ લેવાની જરૂર હોય છે, ત્યારે એક સરળ ગૂગલ સર્ચ ઝડપી અને વ્યાપક સમજણ માટે વેબસાઇટ શોધવામાં મદદ કરે છે. હવે જ્યારે Google AI-જનરેટેડ વિહંગાવલોકન પ્રદાન કરે છે, કેટલીકવાર તેને ત્યાંથી વાંચવું અનુકૂળ હોય છે, ખાસ કરીને જ્યારે ભીડ હોય.સાહિત્યના વિદ્યાર્થીએ કહ્યું, “સળંગ 5 અલગ-અલગ પુસ્તકોનું પઠન કરવું એ એક અઘરી પ્રક્રિયા છે, કેટલીકવાર હું ફક્ત Google AI-સારાંશ દ્વારા જ જાઉં છું.” “તે આંધળો વિશ્વાસ ન પણ હોઈ શકે પરંતુ તે મને એવી પરિસ્થિતિઓમાં આશ્વાસનનો ભ્રમ આપે છે કે જ્યાં મારી પાસે ઘણાં સ્ત્રોતો જોવાનો સમય નથી.”ડૉ પ્રધાને કહ્યું કે AI ધીમે ધીમે ચોકસાઈમાં સુધારો કરી રહ્યું છે. તેમ છતાં, તે હજી 100% સચોટ નથી અને તેના પ્રતિસાદોને હજુ પણ ચકાસવાની જરૂર છે, ખાસ કરીને પત્રકારત્વ, શૈક્ષણિક અને સંશોધન સંદર્ભોમાં, પ્રોફેસરે ચેતવણી આપી હતી.
તમારી જાતને કેવી રીતે સુરક્ષિત કરવી
AI ની ઉંમરમાં પ્રશ્ન અને ચકાસણીતે સ્થાપિત છે કે કોઈપણ અને તમામ આર્ટિફિશિયલ ઈન્ટેલિજન્સ મોડલ કેટલીકવાર આત્મવિશ્વાસપૂર્વક જૂઠું બોલે છે. તે જ સમયે, સગવડતા અને ઉતાવળના સંદર્ભમાં, AI અણનમ છે અને તેને નાબૂદ કરી શકાતું નથી, વધતી સર્વસંમતિ કહે છે.મીડિયા સાક્ષરતા સાધનો આ મુશ્કેલ પરિસ્થિતિમાં ઉપયોગી સાબિત થાય છે.એકમાત્ર વસ્તુ જે કોઈપણને અચોક્કસતા અને ખોટી માહિતી ઘટાડવામાં મદદ કરી શકે છે તે જોરદાર, સંપૂર્ણ હકીકત-તપાસ અને ચકાસણીની પ્રક્રિયા છે. AI મોડલ દ્વારા આપવામાં આવેલ કોઈપણ જવાબ પર ક્યારેય આંધળો વિશ્વાસ ન કરો, પછી ભલે તે ગમે તેટલું વિશ્વસનીય લાગે અથવા તે કેટલી અધિકૃત માહિતી વ્યક્ત કરે – પણ, અને ખાસ કરીને, જો તે કોઈની પૂર્વ-અસ્તિત્વમાં રહેલી માન્યતાઓને સમર્થન આપે છે.