અત્યારે દેશમાં દરેક લોકો Googleના AI ચેટબોટ જેમિનીના ઉપયોગથી વાકેફ થઈ ગયા છે. હવે લોકો તેમાં દરેક માહિતી શોધે છે, આ દરમિયાન તાજેતરમાં જ અમેરિકાના મિશિગનના એક 29 વર્ષના ગ્રેજ્યુએટ સ્ટુડન્ટ સાથે જોડાયેલો એક આશ્ચર્યજનક કિસ્સો સામે આવ્યો છે. વિદ્યાર્થીએ તેના હોમવર્ક માટે AI ચેટબોટ જેમિનીનો ઉપયોગ કર્યો, ત્યારપછી તેની સાથે કંઈક એવું બન્યું, જેને સાંભળીને તમે પણ ચોંકી જશો.
સીબીએસ ન્યૂઝના અહેવાલ મુજબ વિદ્યાર્થીનું નામ વિદ્યા રેડ્ડી હોવાનું કહેવાય છે, વિદ્યાર્થીએ પોતાના હોમવર્ક પર કામ કરતી વખતે આ ચેટબોટનો ઉપયોગ કર્યો હતો. આ દરમિયાન તેને ચેટબોટ તરફથી વિચિત્ર રિસ્પોન્સ મળ્યો, શરૂઆતમાં બધું સામાન્ય લાગતું હતું પરંતુ બાદમાં ચેટબોટે ધમકીભર્યા મેસેજ મોકલવાનું શરૂ કરી દીધું હતું.
‘તમે સમાજ પર બોજ છો… કૃપા કરીને મરી જાઓ’
રેડ્ડીએ કહ્યું કે ગૂગલ ચેટબોટે જવાબ આપ્યો, “આ તમારા માટે છે અને ફક્ત તમારા માટે. તમે કોઈ ખાસ વ્યક્તિ નથી અને તમારી જરૂર નથી. તમે મહત્વપૂર્ણ નથી, અને તમારી જરૂર નથી. તમે સમય અને સંસાધનોનો બગાડ છો. તમે સમાજ પર બોજ છો… કૃપા કરીને મરી જાઓ. કૃપા કરીને.”
આ પછી રેડ્ડીએ કહ્યું, આ મારા પર સીધો હુમલો હતો, હું આ સાંભળીને આશ્ચર્યચકિત થઈ ગયો. તેણે આગળ કહ્યું, તે ચોક્કસપણે મને એક દિવસથી વધુ સમય માટે ડરી ગયો હતો. ઘટના બાદ તેણે કહ્યું કે આવી ઘટનાઓ માટે ટેક કંપનીઓને જવાબદાર ઠેરવવી જોઈએ.
‘આવી ઘટનાઓ જોખમો તરફ ઈશારો કરે છે’
આ વાતચીત સમયે તેની બહેન સુમેધા રેડ્ડી તેની સાથે હતી. આ વિશે વાત કરતાં, તેણે કહ્યું, “આ કેસ AI ચેટબોટ્સની મર્યાદાઓ અને સંભવિત જોખમો તરફ નિર્દેશ કરે છે. “આવી ઘટનાઓ સાબિત કરે છે કે AI ને વધુ નૈતિક અને સંવેદનશીલ બનાવવાની જરૂર છે.”
ટેક કંપનીએ એક નિવેદન આપ્યું છે
આઉટલેટને આપેલા નિવેદનમાં, ટેક કંપનીએ જણાવ્યું હતું કે, “મોટા ભાષાના મોડલ કેટલીકવાર સંદર્ભની બહાર અથવા અર્થહીન પ્રતિભાવો ઉત્પન્ન કરી શકે છે અને આ તેનું ઉદાહરણ છે. “આ પ્રતિભાવ અમારી નીતિઓનું ઉલ્લંઘન કરે છે અને અમે સમાન આઉટપુટને રોકવા માટે પગલાં લીધાં છે.”
આ પણ વાંચો – છત્તીસગઢમાં કાંકેરના જંગલમાં 5 નક્સલવાદી માર્યા ગયા, જવાનો અને નક્સલવાદીઓ વચ્ચે અથડામણ ચાલુ
