Facial Recognition in Schools? Here Are the Risks to Children

90
Facial Recognition in Schools? Here Are the Risks to Children

पिछले हफ्ते अपनी किशोर बेटी के साथ बातचीत में, मैंने एक समाचार रिपोर्ट की ओर इशारा किया, जिसमें उत्तरी आयरशायर, स्कॉटलैंड में कई स्कूल कैंटीनों में चेहरे की पहचान तकनीकों के उपयोग पर चिंता व्यक्त की गई थी। क्षेत्र के नौ स्कूलों ने हाल ही में लंच के लिए अधिक तेज़ी से भुगतान करने और COVID जोखिम को कम करने के साधन के रूप में इस अभ्यास को शुरू किया, हालांकि उन्होंने तब से तकनीक को रोल आउट करना बंद कर दिया है। जब मैंने अपनी बेटी से पूछा कि क्या उसे अपनी स्कूल कैंटीन में चेहरे की पहचान तकनीक के इस्तेमाल के बारे में कोई चिंता होगी, तो उसने लापरवाही से जवाब दिया: वास्तव में नहीं। हालांकि यह चेकआउट के समय चीजों को बहुत तेज कर देगा।

उनके शब्द इस चिंता की पुष्टि करते हैं कि वयस्कों की तुलना में बच्चे अपने डेटा अधिकारों के बारे में बहुत कम जागरूक हैं। और यद्यपि डेटा सुरक्षा कानूनों की एक श्रृंखला के तहत बच्चों के लिए विशेष प्रावधान और सुरक्षा उपाय हैं, बच्चों पर चेहरे की पहचान तकनीक का उपयोग अद्वितीय गोपनीयता जोखिम पैदा कर सकता है। चेहरे की पहचान तकनीक डेटाबेस से छवियों का पता लगाने, कैप्चर करने और मिलान करने से लोगों की पहचान को पहचानती है और प्रमाणित करती है। प्रौद्योगिकियां कृत्रिम बुद्धिमत्ता (एआई) द्वारा संचालित होती हैं, विशेष रूप से मशीन लर्निंग के रूप में जानी जाने वाली तकनीक। मशीन लर्निंग ऐतिहासिक डेटा, या एल्गोरिदम के आधार पर परिणामों की भविष्यवाणी करता है, जिन्हें सिस्टम में फीड किया गया है। इसलिए चेहरे की पहचान के लिए, मशीन लर्निंग चेहरे की छवियों के डेटाबेस के आधार पर किसी व्यक्ति के चेहरे के डिजिटल प्रतिनिधित्व या चेहरे के प्रिंट से जुड़ी पहचान की भविष्यवाणी करता है। सॉफ्टवेयर इस अनुभव के माध्यम से अनुकूलन करता है, समय के साथ भविष्यवाणियां अधिक आसानी से उत्पन्न करना सीखता है।

चेहरे की पहचान तकनीक का उपयोग अब कई तरह से किया जाता है, जैसे कि कर्मचारियों की पहचान सत्यापित करने के लिए, व्यक्तिगत स्मार्टफोन अनलॉक करने के लिए, फेसबुक जैसे सोशल मीडिया प्लेटफॉर्म पर लोगों को टैग करने के लिए, और यहां तक ​​कि कुछ देशों में निगरानी उद्देश्यों के लिए भी। चेहरे की पहचान तकनीक अपने आप में समस्या नहीं है। बल्कि, मुद्दा यह है कि इसका उपयोग कैसे किया जाता है और, इस उदाहरण में, तथ्य यह है कि प्रौद्योगिकी ने अब स्कूल के गलियारों में घुसपैठ कर ली है और एक कमजोर जनसांख्यिकीय: बच्चों को लक्षित किया है।

तो बच्चों के लिए गोपनीयता के मुद्दे क्या हैं: आपका चेहरा प्रिंट आपका डेटा है, इसलिए किसी भी चेहरे की पहचान प्रणाली के लिए यह समझना महत्वपूर्ण है कि छवि डेटाबेस कैसे एकत्रित और संग्रहीत किए जाते हैं। हालांकि मैं किसी कॉन्सर्ट स्थल में प्रवेश करने के लिए चेहरे की पहचान तकनीक के उपयोग के लिए अनिच्छा से सहमत हो सकता हूं, अगर कंपनी के अन्य व्यावसायिक उद्देश्यों के लिए मेरे चेहरे के निशान को बरकरार रखा जाता है (एक वाक्यांश जो टिकट के ठीक प्रिंट में काफी सामान्य रूप से दिखाई देता है, तो मुझे खुशी नहीं होगी) व्यक्तिगत डेटा के उपयोग के संबंध में बिक्री)।

यदि स्कूल की सेटिंग में चेहरे की पहचान तकनीक का उपयोग किया जाता है, तो हमें स्पष्ट जानकारी की आवश्यकता होगी कि क्या और कैसे छात्रों की छवियों का उपयोग लंच कतार के उद्देश्य से परे किया जाएगा। उदाहरण के लिए, क्या उन्हें किसी तीसरे पक्ष के साथ साझा किया जाएगा, और किस उद्देश्य से? समस्याएँ उत्पन्न हो सकती हैं, मान लीजिए, यदि चेहरे के निशान बच्चे के अन्य डेटा से जुड़े होते हैं, जैसे कि उनकी दोपहर के भोजन की प्राथमिकताएँ। तृतीय पक्ष सैद्धांतिक रूप से इस डेटा का उपयोग विपणन उद्देश्यों के लिए कर सकते हैं। हमें यह भी जानकारी की आवश्यकता होगी कि छवियों को कैसे संरक्षित किया जाएगा। यदि छात्रों के चेहरे के निशान ठीक से सुरक्षित नहीं हैं, या सिस्टम हैकर्स को रोकने के लिए पर्याप्त मजबूत नहीं है, तो यह साइबर सुरक्षा जोखिम पैदा करता है। हैकर्स के लिए बच्चों के चेहरे के निशान को उनके बारे में अन्य डेटा से जोड़ना और उन्हें ट्रैक करना संभव हो सकता है।

स्कूलों में चेहरे की पहचान तकनीकों के उपयोग के आसपास के बढ़े हुए गोपनीयता जोखिम भी सूचित सहमति से संबंधित हैं। हालांकि यूके डेटा संरक्षण कानून निर्दिष्ट करता है कि 13 वर्ष और उससे अधिक उम्र के बच्चे अपने व्यक्तिगत डेटा के प्रसंस्करण के लिए सहमति दे सकते हैं, इसका मतलब यह नहीं है कि वे इसके निहितार्थ को पूरी तरह से समझते हैं। उदाहरण के लिए, एक सर्वेक्षण में पाया गया कि आठ से 15 वर्ष की आयु के बच्चों को इंस्टाग्राम के नियमों और शर्तों को समझने में कठिनाई होती है।

बच्चों, माता-पिता और अभिभावकों को पूरी जानकारी से कम कुछ भी प्रदान नहीं किया जाना चाहिए, जिसे बच्चे आसानी से समझ सकें। बच्चे सहित किसी भी डेटा विषय को यह जानने का अधिकार है कि उनके व्यक्तिगत डेटा को कैसे संसाधित, साझा और संग्रहीत किया जाएगा, और उन शर्तों को निर्दिष्ट कर सकता है जिनके तहत उनकी सहमति लागू होगी। विवेक और पारदर्शिता से कम कुछ भी बच्चों की निजता को खतरे में डालने का जोखिम उठाएगा।

बच्चों की निगरानी को सामान्य बनाना: ये कुछ ऐसे सवाल हैं जो स्कूलों में चेहरे की पहचान तकनीकों के इस्तेमाल से उठते हैं। चेहरे की पहचान तकनीक अन्य जोखिमों को भी वहन करती है, जैसे कि त्रुटियां, जो, उदाहरण के लिए, छात्रों से गलत तरीके से शुल्क ले सकती हैं। और किसी भी एआई सिस्टम की तरह, हमें इस बारे में चिंतित होना चाहिए कि क्या एल्गोरिदम और डेटा सेट पूर्वाग्रह से मुक्त हैं, और उनके पास स्वच्छ, पूर्ण और प्रतिनिधि प्रशिक्षण डेटा है।

महत्वपूर्ण रूप से, स्कूलों में चेहरे की पहचान तकनीकों को नियोजित करना भी बच्चों की निगरानी को सामान्य बनाने का एक तरीका है। यह संभव है कि इस तरह से उनका पता लगाया जा रहा ज्ञान कुछ बच्चों की भलाई को प्रभावित कर सकता है। यह आश्चर्य की बात नहीं है कि यूके के डेटा वॉचडॉग, सूचना आयुक्त कार्यालय ने स्कूल लंच कतारों में चेहरे की पहचान प्रौद्योगिकियों के उपयोग की जांच के लिए कदम बढ़ाया है। और जांच के आलोक में, यह देखकर अच्छा लगा कि नॉर्थ आयरशायर काउंसिल ने इस प्रथा को शुरू करने पर रोक लगा दी है।

लेकिन जैसे-जैसे हम डिजिटल युग में आगे बढ़ते हैं, यह संभव है कि स्कूली बच्चों के बीच चेहरे की पहचान तकनीकों का उपयोग फिर से शुरू हो जाए, और यहां तक ​​कि इसे अधिक व्यापक रूप से लिया जाए। यदि ऐसा होना है, तो चेहरे की पहचान के उपयोग से बच्चों पर प्रौद्योगिकी के उपयोग की विशेष परिस्थितियों को ध्यान में रखते हुए जोखिमों की तुलना में काफी अधिक लाभ प्राप्त करना चाहिए।

(पिन लीन लाउ, ब्रुनेल यूनिवर्सिटी लंदन का यह लेख पहली बार द कन्वर्सेशन पर छपा)

सभी पढ़ें ताज़ा खबर, ताज़ा खबर तथा कोरोनावाइरस खबरें यहां। हमारा अनुसरण इस पर कीजिये फेसबुक, ट्विटर तथा तार.

.

Source