ડીપફેક્સ બદલાયેલ મીડિયાનું એક સ્વરૂપ છે. "ડીપફેક" શબ્દ "ડીપ લર્નિંગ" અને "ફેક" નું સંયોજન છે. AI-જનરેટેડ મેનિપ્યુલેશન્સમાં હાલની છબીઓ, વિડિયો અથવા ઑડિયો રેકોર્ડિંગ્સ પર કન્ટેન્ટમાં ફેરફાર અથવા સુપરઇમ્પોઝિંગનો સમાવેશ થઈ શકે છે, જે વાસ્તવિક પરંતુ સંપૂર્ણ રીતે બનાવટી દ્રશ્યો બનાવી શકાય છે.

ડીપફેક્સની સૌથી સામાન્ય એપ્લિકેશનમાં વિડિયોની હેરફેરનો સમાવેશ થાય છે. ડીપ લર્નિંગ એલ્ગોરિધમ્સનો ઉપયોગ કરીને, એક મોડેલને વ્યક્તિના ચહેરાની અભિવ્યક્તિ, હાવભાવ અને ભાષણ પેટર્નનું વિશ્લેષણ અને નકલ કરવા માટે તાલીમ આપી શકાય છે. આનાથી વ્યક્તિઓ જે કહેતા અથવા કરતા હોય એવા અત્યંત વિશ્વાસપાત્ર વિડિયો બનાવવાની સુવિધા મળે છે જે તેઓએ ક્યારેય બનાયા નથી.

ડીપફેક ટેક્નોલોજીમાં મનોરંજનની ક્ષમતા છે, જેમ કે ફિલ્મ ઉદ્યોગમાં સ્પેશિયલ ઇફેક્ટ્સ માટે પરંતુ તેના સંભવિત દુરુપયોગને કારણે તેણે ચિંતા વધારી છે. ડીપફેક્સનો ઉપયોગ ગેરમાર્ગે દોરનારી કન્ટેન્ટ બનાવવા, ખોટી માહિતી આપવા અથવા વ્યક્તિઓનો ઢોંગ કરવા માટે પણ થઈ શકે છે, જે નૈતિક અને સુરક્ષા અસરો તરફ દોરી જાય છે.