IIT Jodhpur and IIT Madras are jointly developing an advanced Artificial Intelligence (AI) framework named ‘SAKSHYA’ to identify and analyse deepfake videos, fake audio, and AI-generated images.

The project has been selected under the Safe and Trusted AI programme of the IndiaAI Mission. It aims to detect fabricated information, as well as to investigate the information in the digital environment, draw reliable conclusions, and make recommendations for governance.

Key Highlights

What is SAKSHYA?

SAKSHYA is an AI-driven multi-agent framework to explore authenticity and credibility of digital content. To explore deep fake videos, fake voices, AI-generated images and other manipulated digital content.

The framework is intended to be more than a “real or fake” approach. Will review digital evidence related to content and produce a more complete evaluation.

Multi-Agent AI Approach

SAKSHYA is a multi-agent architecture. Several AI agents will analyze various elements of digital content, rather than a single AI model. Each agent will give its own results, and these can be joined together to determine the overall degree of trustworthiness of the content.

As AI-generated media takes on greater sophistication, this could enhance the reliability and depth of digital content verification.

Significance

AI-generated content and deepfakes can be used to spread misinformation, perpetrate fraud, impersonate, and damage reputation. SAKSHYA might assist in bolstering digital-content verification by analysing evidence and offering a structured evaluation of manipulated content.

The project is also relevant from a broader perspective, both for the governance of AI and for responsible technology, as its findings will be used to inform governance-related recommendations.

Conclusion

The SAKSHYA project marks an important step towards developing safe and trusted AI systems in India. IIT Jodhpur and IIT Madras hope to design a more holistic tool to understand whether digital content is genuine or manipulated by employing multiple AI agents and digital-evidence analysis.

MCQs

1. ‘SAKSHYA’ is being developed jointly by which institutions?
A. IIT Delhi and IIT Bombay
B. IIT Jodhpur and IIT Madras
C. IIT Kanpur and IIT Roorkee
D. IIT Hyderabad and IIT Guwahati

Answer: B. IIT Jodhpur and IIT Madras

2. SAKSHYA is primarily related to:
A. Space exploration
B. Agricultural forecasting
C. Deepfake and digital-content analysis
D. Cyber banking

Answer: C. Deepfake and digital-content analysis

3. Under which programme has the SAKSHYA project been selected?
A. Digital India Mission
B. IndiaAI Mission’s Safe and Trusted AI programme
C. Startup India Mission
D. National Quantum Mission

Answer: B. IndiaAI Mission’s Safe and Trusted AI programme

4. What is a major feature of the SAKSHYA framework?
A. Single-agent AI system
B. Multi-agent AI framework
C. Blockchain-only verification
D. Satellite-based monitoring

Answer: B. Multi-agent AI framework

IIT जोधपुर और IIT मद्रास ने डीपफेक की पहचान के लिए ‘साक्ष्य’ विकसित किया

IIT जोधपुर और IIT मद्रास संयुक्त रूप से ‘साक्ष्य (SAKSHYA)’ नामक एक उन्नत कृत्रिम बुद्धिमत्ता (AI) फ्रेमवर्क विकसित कर रहे हैं, जो डीपफेक वीडियो, फर्जी ऑडियो और AI द्वारा निर्मित तस्वीरों की पहचान और विश्लेषण करेगा।

इस परियोजना को IndiaAI Mission के Safe and Trusted AI Programme के अंतर्गत चुना गया है। इसका उद्देश्य केवल फर्जी सामग्री की पहचान करना ही नहीं, बल्कि डिजिटल वातावरण में उपलब्ध सूचनाओं की जांच करना, विश्वसनीय निष्कर्ष निकालना तथा शासन (Governance) से संबंधित सुझाव प्रदान करना भी है।

प्रमुख तथ्य (Key Highlights)

साक्ष्य (SAKSHYA) क्या है?

साक्ष्य (SAKSHYA) एक AI आधारित बहु-एजेंट फ्रेमवर्क है, जिसे डिजिटल सामग्री की प्रामाणिकता और विश्वसनीयता की जांच के लिए विकसित किया जा रहा है। यह डीपफेक वीडियो, फर्जी आवाज, AI-निर्मित तस्वीरों तथा अन्य प्रकार की हेरफेर की गई डिजिटल सामग्री का विश्लेषण करेगा।

यह फ्रेमवर्क केवल “असली या नकली” की पहचान तक सीमित नहीं रहेगा, बल्कि सामग्री से जुड़े डिजिटल साक्ष्यों की भी जांच करेगा और अधिक व्यापक मूल्यांकन प्रस्तुत करेगा।

बहु-एजेंट AI दृष्टिकोण

साक्ष्य की सबसे महत्वपूर्ण विशेषता इसका बहु-एजेंट (Multi-Agent) ढांचा है। इसमें एक ही AI मॉडल पर निर्भर रहने के बजाय कई AI एजेंट डिजिटल सामग्री के अलग-अलग पहलुओं का विश्लेषण करेंगे। प्रत्येक एजेंट अपने निष्कर्ष देगा और इन सभी निष्कर्षों को मिलाकर सामग्री की समग्र विश्वसनीयता का आकलन किया जाएगा।

जैसे-जैसे AI द्वारा निर्मित सामग्री अधिक उन्नत होती जा रही है, यह प्रणाली डिजिटल सामग्री की जांच को अधिक विश्वसनीय और प्रभावी बना सकती है।

महत्व

AI-जनित सामग्री और डीपफेक का उपयोग भ्रामक जानकारी फैलाने, धोखाधड़ी करने, किसी की पहचान का दुरुपयोग करने तथा प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जा सकता है। साक्ष्य परियोजना डिजिटल साक्ष्यों का विश्लेषण कर और संरचित मूल्यांकन प्रदान करके डिजिटल सामग्री की सत्यता की जांच को मजबूत कर सकती है।

यह परियोजना AI शासन (AI Governance) और उत्तरदायी प्रौद्योगिकी (Responsible Technology) के दृष्टिकोण से भी महत्वपूर्ण है, क्योंकि इसके निष्कर्ष शासन संबंधी नीतियों और सुझावों को तैयार करने में सहायक होंगे।

निष्कर्ष

साक्ष्य (SAKSHYA) परियोजना भारत में सुरक्षित और विश्वसनीय AI प्रणालियों के विकास की दिशा में एक महत्वपूर्ण कदम है। IIT जोधपुर और IIT मद्रास बहु-एजेंट AI और डिजिटल साक्ष्य विश्लेषण के माध्यम से ऐसा व्यापक तंत्र विकसित करने का प्रयास कर रहे हैं, जो यह निर्धारित कर सके कि कोई डिजिटल सामग्री वास्तविक है या उसमें हेरफेर किया गया है।

बहुविकल्पीय प्रश्न (MCQs)

1. ‘साक्ष्य (SAKSHYA)’ परियोजना का विकास किन संस्थानों द्वारा किया जा रहा है?
A. IIT दिल्ली और IIT बॉम्बे
B. IIT जोधपुर और IIT मद्रास
C. IIT कानपुर और IIT रुड़की
D. IIT हैदराबाद और IIT गुवाहाटी

उत्तर: B. IIT जोधपुर और IIT मद्रास

2. साक्ष्य (SAKSHYA) मुख्य रूप से किससे संबंधित है?
A. अंतरिक्ष अनुसंधान
B. कृषि पूर्वानुमान
C. डीपफेक और डिजिटल सामग्री विश्लेषण
D. साइबर बैंकिंग

उत्तर: C. डीपफेक और डिजिटल सामग्री विश्लेषण

3. साक्ष्य परियोजना को किस कार्यक्रम के अंतर्गत चुना गया है?
A. डिजिटल इंडिया मिशन
B. IndiaAI Mission के Safe and Trusted AI Programme
C. स्टार्टअप इंडिया मिशन
D. राष्ट्रीय क्वांटम मिशन

उत्तर: B. IndiaAI Mission के Safe and Trusted AI Programme

4. साक्ष्य फ्रेमवर्क की प्रमुख विशेषता क्या है?
A. एकल AI प्रणाली
B. बहु-एजेंट AI फ्रेमवर्क
C. केवल ब्लॉकचेन आधारित सत्यापन
D. उपग्रह आधारित निगरानी

उत्तर: B. बहु-एजेंट AI फ्रेमवर्क