2015 में, Google ने ऐलान किया कि यह एएनए एल्गोरिदम के विकास के लिए एक आंतरिक उपकरण, जो कि एआई अनुसंधान और दुनिया भर में विकास की दिशा बदल देगा, के लिए एक आंतरिक उपकरण रिलीज करेगी। Google के सीईओ के शब्दों में, एआई प्रौद्योगिकी का प्रभाव बिजली के रूप में गहरा हो सकता है, और Google टूल्स खुले, मुफ़्त हैं, और एआई के साथ आरंभ करने के लिए थ्रेशोल्ड भी डॉक्टरेट से केवल एक लैपटॉप तक कम कर दिया गया है।
लेकिन TensorFlow की शक्ति अब गूगल के नियंत्रण से परे है। दो साल से अधिक के लिए, शैक्षणिक और सिलिकॉन वैली ने कई आकर्षक परिणाम बनाने के लिए TensorFlow का इस्तेमाल किया है, लेकिन अज्ञात Reddit फोरम उपयोगकर्ता deepfakes नवीनतम फोकस है
दीपफिक्स एआई सॉफ़्टवेयर पर लगभग किसी भी चेहरे की छवि को एक फिल्म में सीधा रखता है, और आप आसानी से कल्पना कर सकते हैं कि यह क्या कर रहा होगा। "मदरबोर्ड रिपोर्ट है कि सॉफ़्टवेयर का उपयोग किसी भी एक व्यक्ति का चेहरा (जैसे कि एक महिला सेलिब्रिटी या चेहरे का दोस्त) एक पोर्न अभिनेत्री का शरीर डालता है
इसलिए किसी को भी इस ऐ सॉफ्टवेयर, स्वयं उपयोग डाउनलोड कर सकते हैं "मदरबोर्ड" सूचना के प्रकटीकरण के पहले के बाद, Deepfakes अपनी ही subreddit, संचित अधिक से अधिक 91,000 ग्राहकों बनाया। एक और रेडिट उपयोगकर्ता deepfakeapp भी एक उपकरण FakeApp बुलाया जारी किया। रेडिट वर्तमान में इस समुदाय पर प्रतिबंध लगा दिया गया है, इस आधार पर कि यह अनैच्छिक अश्लील साहित्य के लिए साइट के मानदंडों का उल्लंघन करती है पर।
गाइड FakeApp के अनुसार, इस सॉफ्टवेयर TensorFlow किया इसी तरह की बातों के साथ एक बार एक अलग सेटिंग्स और विषयों TensorFlow निर्माण आधारित है। Google कर्मचारियों, प्रशिक्षण एल्गोरिथ्म भित्तिचित्रों से एक छवि उत्पन्न करने के लिए। Deepfakes लगता है कि वहाँ इस तरह के विभिन्न फिल्मों की एक किस्म में निकोलस केज के चेहरे के रूप में कई मज़ा उपयोग, है, लेकिन हम जानते हैं कि मंच 91 लाख खिलाड़ियों को एक पत्रक के लिए कर रहे हैं की सदस्यता लें।
TensorFlow यह खुला स्रोत संसाधन कई उपयोगी मानव परिणामों को लाता है, जैसे कैंसर एल्गोरिदम का संभावित पता, FakeApp की उपस्थिति खुले स्रोत के अंधेरे पक्ष को दर्शाती है।
गूगल (और साथ ही माइक्रोसॉफ्ट, अमेज़न, फेसबुक) कई तकनीकी बल, दुनिया का उपयोग करने के लिए खुला है, किसी को भी अब ऐ सॉफ्टवेयर डाउनलोड कर सकते हैं, प्रयोग का आनंद लें, बनाते हैं, जिसका मतलब है कि वे एक राजनीतिक भाषण (बनाने की नकल करता है ऐ की आवाज का उपयोग कर सकते हैं आराम से है ), झूठे प्रतिलिपि सेक्स वीडियो भी तैयार कर सकते हैं। सभी डिजिटल मीडिया 1 और 0 की एक श्रृंखला है, एई को चतुराई से कुछ ऐसी चीज बनाने की व्यवस्था की जा सकती है जो अस्तित्व में नहीं थी।
चूंकि सॉफ़्टवेयर एक कंप्यूटर पर सीधे काम करता है, इसलिए बड़ी तकनीक कंपनियों का नियंत्रण खत्म हो जाता है क्योंकि सॉफ़्टवेयर सर्वर को छोड़ देता है, और ओपन सोर्स के विचारों का सिद्धांत भी इसका मतलब है कि इन कंपनियों को दोषी महसूस नहीं करना चाहिए या परिणामों के लिए दोषी ठहराया जाना चाहिए।
एक चेहरा प्रत्यारोपण टुकड़ा संकट क्योंकि मुफ्त सॉफ्टवेयर, इन कंपनियों के लिए अच्छा व्यवसाय है, ताकि और अधिक लोगों को ऐ विकसित करना। हर प्रमुख प्रौद्योगिकी कंपनियों प्रतिभा के लिए लड़ाई ऐ प्रतियोगिता में जितना संभव हो उतना पकड़े जाते हैं, यथास्थिति को बदलने के लिए पर्याप्त नहीं है, और अधिक लोग क्षेत्र में डाल दिया, बेहतर है। इन कर्मचारियों प्रोग्राम कोड लिखने के लिए मुक्त हो जाएगा, नए उत्पादों को प्रेरित करने में मदद करने बग, फिक्स, विश्वविद्यालय स्नातक खोजने के लिए और स्नातक छात्रों, सॉफ्टवेयर का उपयोग एक अच्छा पाइप लाइन प्रदान करने के लिए प्रशिक्षित किया जाएगा, कंपनी की आंतरिक उपकरणों के साथ परिचित बढ़ती नई प्रतिभा
उन्नत प्रौद्योगिकी एटी एंड टी Jier बो (Mazin गिल्बर्ट) के उपाध्यक्ष ने कहा, "हम मशीन सफलता सीखने, लेकिन वास्तव में बड़ी सफलता एल्गोरिथ्म नहीं है, वास्तव में, 1970 के साथ एल्गोरिथ्म, 1980, पिछले पाँच वर्षों में के बारे में बात कर रहे हैं, 1990 Meiliang यांग, एक असली सफलता यह खुला स्रोत है। "
"ओपन सोर्स ने प्रवेश के लिए बाधाओं को कम कर दिया है, इसलिए आईबीएम नहीं है, लेकिन इस समय गूगल और फेसबुक।"
ऐ विकास, खुला स्रोत सॉफ्टवेयर मुद्दों को भी जटिल। उपकरण वर्तमान में गूगल द्वारा की पेशकश की नैतिकता के लोगों का ध्यान के साथ, एक "टर्मिनेटर" स्काईनेट (स्काईनेट) और अन्य आतंकवादी खतरों बनाने के लिए इरादा नहीं है, लेकिन अभी भी वास्तविक नुकसान का कारण होने की संभावना है। गूगल, माइक्रोसॉफ्ट और अन्य कंपनियों को उपलब्ध कराने के खुला स्रोत ढांचे, लेकिन यह भी अपने अनुसंधान से वैज्ञानिकों के लिए नैतिकता के मुखर ऐ ऐ महत्व दिया गया है, लेकिन कंपनी TensorFlow आधिकारिक वेबसाइट की तरह डाउनलोड मुफ्त सॉफ्टवेयर के लिए किसी भी दिशा-निर्देश, नहीं प्रदान की थी नैतिकता से संबंधित किसी भी दिशा-निर्देश की जरूरत नहीं है निर्देश।
आइए अब खुले स्रोत को आदर्श समाधान नहीं लगता है, अरिक्वि, गिथूब और अन्य साइटों को मुफ्त में जानकारी साझा करने के लिए, हितधारकों की ओर से संभावित नुकसान की पहचान कर सकते हैं और जवाबदेही की मांग कर सकते हैं। जैसा मुख्य प्रौद्योगिकी डेवलपर्स का सामना करने के लिए तैयार नहीं होगा उदाहरण के लिए, जीफायकाट सभी जीआईएफ को गहराई से हटा देता है, रेडिट मंच को रोकता है, और पोर्नहब का कहना है कि अगर उन्हें समान एक मिल जाए, लेकिन deepfakes.club साइट अभी भी प्रमुख सामाजिक प्लेटफार्मों के बाहर मौजूद है
ये आंकड़े एक चेहरा प्रत्यारोपण मामले फैल शीट केवल अभिनेत्री का बदलता रूप चोट नहीं, बल्कि पेशेवर काम का एक फिल्म अभिनेत्री छोटा, उन्हें, के रूप में "वैकल्पिक" ले कि में उन्हें पता नहीं था, सहमत नहीं था, नियंत्रित नहीं किया जा सकता है हेरफेर; इस तकनीक सेलिब्रिटी में इस्तेमाल के जो, ज़ाहिर है, किसी को अनिवार्य रूप से ज्यादातर लोगों को जो इस तरह कक्षाएं, सहयोगियों, बच्चों, छात्रों, पूर्व प्रेमिका लेने में, लाएगा अश्लील साहित्य की जवाबी साधन का एक प्रकार के रूप में अनुमति दे सकता है, यौन उत्पीड़न डिजिटल हो जाएगा स्वर्ण युग में, जब तक किसी भी महिला को गोली मार दी जाती है, तब तक कई तस्वीरें संदेह होती हैं, अनुमतियों के बारे में सोचने के लिए सामुदायिक वेबसाइट पर अपलोड की गई तस्वीरों का ज़िक्र नहीं करना।