جڏهن ڪو AI سسٽم نقصان پهچائي ٿو ته ڪير ذميوار آهي؟

هالينڊ ۾ AI سسٽم جي ذميواري هميشه هڪ شخص يا ڪمپني تي هوندي آهي، ڪڏهن به سافٽ ويئر تي نه. عملي طور تي ٻه موقف اهم آهن: استعمال ڪندڙ، مطلب ته اهو فرد يا تنظيم جيڪو سسٽم کي ترتيب ڏئي ٿو ۽ ان سان فيصلا ڪري ٿو، ۽ پيدا ڪندڙ، مطلب ته اهو پارٽي جنهن سسٽم کي ترقي ڏني، ان کي مارڪيٽ ۾ رکيو يا ان کي فراهم ڪيو. ٻنهي مان ڪير نقصان کڻندو آهي اهو ان تي منحصر آهي ته ناڪامي ڪٿي هئي، انهن مان هر هڪ کي ڇا خبر هئي، ۽ انهن جي وچ ۾ معاهدو ڇا چوي ٿو. هي آرٽيڪل ٻنهي موقفن ذريعي ڪم ڪري ٿو؛ فوجداري قانون جو فريم ورڪ پاڻ، ڪرمنل ڪوڊ جي آرٽيڪل 51 جي تحت فنڪشنل جرم کان ڪارپوريٽ ذميواري تائين، اسان جي ساٿي آرٽيڪل ۾ بيان ڪيو ويو آهي ته ڇا هڪ الگورتھم جزوي طور تي ذميوار ٿي سگهي ٿو.

ڇو نظام ڪڏهن به جوابدار نه هوندو آهي

ڊچ قانون ٻن قسمن جي ماڻهن کي تسليم ڪري ٿو: قدرتي ماڻهو ۽ قانوني ماڻهو. هڪ AI سسٽم ٻنهي مان ڪو به ناهي. اهو حق رکي نٿو سگهي، طلب نه ٿو ڪري سگهجي، جرمانو نه ٿو ڪري سگهجي ۽ نقصان ادا ڪرڻ جو حڪم نه ٿو ڏئي سگهجي، ڇاڪاڻ ته اهو ڪجهه به نٿو رکي ۽ ان جو ڪو قانوني وجود ان ڪمپني کان الڳ ناهي جيڪو ان کي هلائي ٿو. هڪ ٽيون درجو ٺاهڻ جون تجويزون، ڪڏهن ڪڏهن اليڪٽرانڪ شخصيت سڏيو ويندو آهي، يورپي سطح تي بحث ڪيون ويون آهن ۽ ڪٿي به نه ويون آهن، هڪ سبب لاءِ جيڪو فلسفي کان وڌيڪ عملي آهي: هڪ ذميواري گاڏي جنهن ۾ ڪو به اثاثو نه هجي ۽ ان جي رويي کي تبديل ڪرڻ جي صلاحيت نه هجي، خطري کي انهن ڌرين کان پري ڪري ڇڏيندو جيڪي اصل ۾ نقصان کي روڪي سگهن ٿيون.

تنهن ڪري سوال ڪڏهن به اهو ناهي ته مشين ذميوار آهي يا نه. اهو آهي ته زنجير ۾ ڪهڙو انسان يا ڪارپوريٽ اداڪار ڪنهن فرض ۾ ناڪام ٿيو، ۽ اهو زنجير هڪ اڳڪٿي ڪندڙ شڪل رکي ٿو: اهو پارٽي جنهن ماڊل ٺاهيو، اهو پارٽي جنهن ان کي هڪ پيداوار ۾ تبديل ڪيو، اهو پارٽي جنهن ان کي فراهم ڪيو يا ضم ڪيو، اهو تنظيم جنهن ان کي استعمال ڪيو، ۽ اهو فرد جنهن بٽڻ دٻايو. AI سسٽم جي ذميواري ان زنجير ۾ ناڪامي کي ڳولڻ ۽ ان کي قانوني بنيادن سان ملائڻ جي مشق آهي.

انهن مان ٻه قانوني بنياد غالب آهن. استعمال ڪندڙ لاءِ، عام تشدد جو قانون ۽ سنڀال جو فرض جيڪو ڪنهن ٻئي جي هدايت ۾ طاقتور اوزار استعمال ڪرڻ سان اچي ٿو. پيدا ڪندڙ لاءِ، پيداوار جي ذميواري، جنهن کي بلڪل به غلطي جي ضرورت ناهي. ٻيو سڀ ڪجهه، مجرمانه نمائش سميت، انهن جي مٿان پرت ٿيل آهي.

استعمال ڪندڙ جي حيثيت

استعمال ڪندڙ پنهنجي نمائش کي گهٽ سمجهن ٿا ڇاڪاڻ ته اهي سسٽم کي هڪ بليڪ باڪس سمجهن ٿا جيڪو ڪنهن ٻئي ٺاهيو آهي. قانون ۾، اهو شخص جيڪو ڪنهن اوزار کي ترتيب ڏيڻ جو انتخاب ڪري ٿو، ان کي ترتيب ڏئي ٿو، ان کي ڊيٽا فيڊ ڪري ٿو ۽ ان جي آئوٽ پُٽ تي عمل ڪري ٿو، اهو ڪجهه ڪري رهيو آهي، ۽ اهو ڪرڻ ان جي پنهنجي خوبين تي اندازو لڳايو ويندو آهي.

جڏهن نظام صرف هڪ جرم جو اوزار آهي

سڀ کان آسان ڪيس اهي آهن جتي هڪ AI سسٽم کي جان بوجھ ڪري استعمال ڪيو ويندو آهي. ڪنهن ڪمپني کي ٺڳي ڪرڻ لاءِ هڪ قائل ڪندڙ انوائس تيار ڪرڻ ڪرمنل ڪوڊ جي آرٽيڪل 326 تحت فراڊ آهي، ڇا خط ڪنهن شخص پاران تيار ڪيو ويو هو يا ڪنهن ماڊل پاران، ۽ دستاويز کي جعلسازي آرٽيڪل 225 تحت جعلسازي رهي ٿي، قطع نظر اوزار جي. ڪوڊ لکڻ لاءِ ماڊل استعمال ڪرڻ جيڪو سسٽم ۾ ڀڃي ٿو اهو اڃا تائين آرٽيڪل 138ab تحت ڪمپيوٽر جي مداخلت آهي. هڪ حقيقي شخص جون هٿرادو تصويرون ٺاهڻ ۽ ورهائڻ بدنامي جي برابر ٿي سگهي ٿو، ۽ جتي مواد جنسي نوعيت جو آهي اهو جنسي ڏوهن جي قانون ۾ ڏوهن جي تحت اچي ٿو جيڪو 1 جولاءِ 2024 کان لاڳو ٿيو آهي. ڪنهن فرد جي مسلسل AI جي مدد سان هراسان ڪرڻ آرٽيڪل 285b تحت اسٽالنگ جو سبب بڻجي سگهي ٿو، جيڪو صرف متاثر جي شڪايت تي ڪارروائي ڪئي ويندي آهي.

هي ڪو به نئون قانون ناهي. ٽيڪنالاجي فريب جي پيماني ۽ امڪان کي تبديل ڪري ٿي، نه ته جرم جي عنصرن کي. اهو جيڪو تبديل ڪري ٿو اهو ثبوت آهي: پرامپٽس، اڪائونٽ لاگ، ماڊل آئوٽ پُٽ ۽ فائل ٺاهڻ جو وقت اهي مواد آهن جيڪي جرم کي هڪ شخص سان ڳنڍيندا آهن، ۽ اهي استعمال ڪندڙ جيڪي اهو سمجهن ٿا ته AI پاران ٺاهيل مواد لاپتا آهي، عام طور تي غلط هوندا آهن.

لاپرواهي سان استعمال: وڌيڪ عام خطرو

وڌيڪ تنظيمون ارادي جي ڀيٽ ۾ لاپرواهي جي ڪري مصيبت ۾ پئجي وينديون آهن. اهو نمونو واقف آهي. هڪ نظام هڪ مقصد لاءِ خريد ڪيو ويندو آهي ۽ ٻئي لاءِ استعمال ڪيو ويندو آهي. ان جي پيداوار کي سگنل جي بدران فيصلي جي طور تي سمجهيو ويندو آهي. ڪو به انهن ڪيسن جي جانچ نٿو ڪري جتي اهو غلط آهي، ڇاڪاڻ ته ان کي هلائيندڙ ماڻهن کي ڪڏهن به نه ٻڌايو ويو ته ان جي غلطي جي شرح ڪهڙي نظر اچي ٿي يا اهو ڪٿي ناڪام ٿئي ٿو. جڏهن نقصان ظاهر ٿئي ٿو، تنظيم کي خبر پوي ٿي ته ان وٽ ڪو به رڪارڊ ناهي ته فيصلو ڪيئن پهتو.

سول اصطلاحن ۾ هي سڌو سنئون نقصان آهي: سول ڪوڊ جو آرٽيڪل 6:162 هڪ شخص کي هڪ غير قانوني عمل جو ذميوار بڻائي ٿو جيڪو انهن سان منسوب آهي جيڪو نقصان پهچائي ٿو. سماج ۾ سنڀال جي فرض جي ڀڃڪڙي غيرقانوني جي زمرن مان هڪ آهي، ۽ ان فرض جو مواد ان عهدي تي هڪ محتاط آپريٽر ڇا ڪيو هوندو ان جي ذريعي مقرر ڪيو ويندو آهي. هڪ آجر آرٽيڪل 6:170 جي تحت پنهنجي ملازمن جي غلطين لاءِ پڻ ذميوار آهي، ۽ هڪ پارٽي جيڪا معاهدي جي ذميواري انجام ڏيڻ لاءِ هڪ معاون کي استعمال ڪري ٿي آرٽيڪل 6:76 جي تحت ان معاون لاءِ جواب ڏئي ٿي، جيڪا اها ضابطي آهي جيڪا هڪ تنظيم کي پنهنجي خدمت پهچائڻ لاءِ سپلائر جي ماڊل استعمال ڪندي پڪڙي ٿي.

سنڀال جو فرض هاڻي مڪمل طور تي عدالتن تي نه ڇڏيو ويو آهي ته اهي ايجاد ڪن. EU AI ايڪٽ اعليٰ خطري واري نظام جي تعینات ڪندڙن کي ٺوس ذميواريون ڏئي ٿو: هدايتن جي مطابق سسٽم استعمال ڪريو، ان کي استعمال ڪرڻ لاءِ قابليت ۽ اختيار رکندڙ ماڻهن کي انساني نگراني تفويض ڪريو، يقيني بڻايو ته انهن جي ڪنٽرول هيٺ ان پٽ ڊيٽا لاڳاپيل آهي، آپريشن جي نگراني ڪريو ۽ جتي خطرو پيدا ٿئي ٿو اتي استعمال کي معطل ڪريو، لاگ رکو، ۽ ڪم تي اهڙي نظام کي تعینات ڪرڻ کان اڳ مزدورن ۽ انهن جي نمائندن کي آگاهي ڏيو. اهي ذميواريون ريگيوليٽري آهن، پر غفلت جو جائزو وٺندڙ عدالت انهن کي احتياط سان عمل ڪرڻ جي وضاحت طور پڙهيندي. هڪ تنظيم جيڪا استعمال لاءِ هدايتن کي نظرانداز ڪري ٿي اها صرف غير تعميل نه آهي؛ ان دعويدار کي پنهنجو ڪيس سونپيو آهي.

خودڪار تعصب الڳ ذڪر جي لائق آهي ڇاڪاڻ ته اهو اهو هنڌ آهي جتي نگراني خاموشي سان ناڪام ٿئي ٿي. هڪ جائزو وٺندڙ جيڪو سسٽم جي تجويز ڪيل تقريبن هر شيءِ کي منظور ڪري ٿو اهو نگراني نه ٿو ڪري، ۽ هڪ تنظيم جيڪا پنهنجي عملي جي ڪارڪردگي کي ماپي ٿي، ان نتيجي کي مؤثر طريقي سان ڊزائين ڪيو آهي. قانوني سوال اهو آهي ته ڇا هڪ انساني فيصلو حقيقي طور تي ورتو ويو هو، ۽ هڪ رٻڙ اسٽيمپ قابليت نٿو رکي.

جتي استعمال ڪندڙ خطرو منتقل نٿو ڪري سگهي

ٽي نقطا باقاعدي طور تي انهن تنظيمن کي حيران ڪن ٿا جيڪي فرض ڪن ٿا ته فراهم ڪندڙ خطرو کڻي ٿو.

پهرين، زخمي ٽئين پارٽي جي طرف، استعمال ڪندڙ نظر ايندڙ پارٽي آهي. هڪ گراهڪ ڪريڊٽ کان انڪار ڪيو، هڪ ملازم کي اسڪريننگ ٽول پاران رد ڪيو ويو، هڪ مريض کي غلط ٽرائيج ڏنو ويو: اهي ڊيپلائير سان معاهدو ڪن ٿا، يا انهن سان ڊيل ڪيا وڃن ٿا، ۽ اهي ڊيپلائير تي ڪيس ڪندا. ڇا ڊيپلائير پنهنجي سپلائر کان وصولي ڪري سگهي ٿو اهو هڪ الڳ سوال آهي جيڪو معاهدي کي چالو ڪري ٿو ۽ ان جي خلاف دعويٰ ۾ دير نٿو ڪري.

ٻيو، عام ڊيٽا تحفظ جا ضابطا هر شيءِ کان آزاديءَ سان لاڳو ٿين ٿا. جيڪڏهن سسٽم ذاتي ڊيٽا کي پروسيس ڪري ٿو، ته ڊيپلائير عام طور تي ڪنٽرولر هوندو آهي، جيڪو قانوني بنياد، شفافيت، اثر جي تشخيص ۽ سيڪيورٽي جو ذميوار هوندو آهي. هڪ فيصلو جيڪو صرف خودڪار طريقن سان ورتو ويندو آهي جيڪو قانوني اثر پيدا ڪري ٿو يا ساڳئي طرح هڪ شخص کي خاص طور تي متاثر ڪري ٿو، الڳ الڳ منظم ڪيو ويندو آهي ۽ ان شخص کي انساني مداخلت ۽ نتيجي تي مقابلو ڪرڻ جو حق ڏئي ٿو. جنرل ڊيٽا تحفظ ضابطي جو اسان جو جائزو ان نظام کي بيان ڪري ٿو.

ٽيون، ترميم توهان جي ڪردار کي تبديل ڪري ٿي. هڪ ڊيپلائير جيڪو پنهنجو نالو ڪنهن سسٽم تي رکي ٿو، ان جي ارادي مقصد کي تبديل ڪري ٿو، يا ان کي بنيادي طور تي تبديل ڪري ٿو، اهو AI ايڪٽ تحت فراهم ڪندڙ بڻجي ٿو ۽ فراهم ڪندڙ جي ذميدارين کي ورثي ۾ ڏئي ٿو. هڪ عام مقصد جي ماڊل کي هڪ منظم فيصلي لاءِ اسڪريننگ ٽول ۾ فائن ٽيوننگ ڪرڻ بلڪل اهڙي قسم جو قدم آهي جيڪو ان لڪير کي پار ڪري ٿو. ڪنهن ٻئي جي ماڊل تي تعمير ڪندڙ تنظيمن کي اهو طئي ڪرڻ گهرجي ته اهي لانچ ڪرڻ کان اڳ ان جي ڪهڙي پاسي تي آهن، ڪنهن واقعي کان پوءِ نه.

پيدا ڪندڙ جو موقف

پيدا ڪندڙ جو رويو هڪ مختلف رستي تي هلندو آهي، ۽ اهو وڌيڪ سخت آهي. آرٽيڪل 6:185 ۽ سول ڪوڊ جي پيروي هيٺ پيداوار جي ذميواري پيدا ڪندڙ کي ان جي پيداوار ۾ خرابي جي ڪري نقصان جو ذميوار بڻائي ٿي بغير زخمي پارٽي کي غلطي ثابت ڪرڻ جي. هڪ پيداوار خراب آهي جڏهن اهو حفاظت پيش نٿو ڪري جيڪا هڪ شخص توقع ڪرڻ جو حقدار آهي، ان جي پيشڪش، استعمال جيڪو ان مان معقول طور تي توقع ڪري سگهجي ٿو ۽ ان کي گردش ۾ رکڻ جو وقت. دعويدار کي نقصان، خرابي ۽ انهن جي وچ ۾ سببي لنڪ ثابت ڪرڻ گهرجي، جيڪو هڪ AI ڪيس ۾ اهو آهي جتي حقيقي جنگ آهي.

حڪومت جون حدون مقرر آهن. دعويٰ ان ڏينهن کان ٽن سالن اندر آڻڻ گهرجن جڏهن زخمي ڌر کي نقصان، نقص ۽ پيدا ڪندڙ جي سڃاڻپ جي خبر پئي، يا ان کان واقف ٿيڻ گهرجي ها، ۽ حق مخصوص پيداوار جي گردش ۾ اچڻ کان ڏهه سال پوءِ ختم ٿي ويندو آهي. هن حڪومت جي تحت ذميواري کي معاهدي ذريعي خارج يا محدود نه ٿو ڪري سگهجي، ۽ اهو موت، ذاتي زخم ۽ خانگي طور تي استعمال ٿيندڙ ٻين ملڪيت کي نقصان پهچائي ٿو، گهٽ حد جي تابع. پيدا ڪندڙ وٽ دفاع جو هڪ محدود سيٽ آهي، جنهن ۾ ترقي جي خطري جو دفاع به شامل آهي، جيڪو لاڳو ٿئي ٿو جتي گردش جي وقت سائنسي ۽ ٽيڪنيڪل علم جي حالت خرابي کي ظاهر نه ڪري سگهي هئي.

اهو سڌارو جيڪو سافٽ ويئر جي پوزيشن کي تبديل ڪري ٿو

موجوده ڊچ حڪومت جي تحت، هڪ پراڊڪٽ هڪ متحرڪ شيءِ آهي، ۽ ڇا اسٽينڊ اڪيلو سافٽ ويئر قابليت رکي ٿو، اهو ڪيترن سالن کان تڪرار ۾ آهي. اهو دليل هاڻي ختم ٿي رهيو آهي. نظرثاني ٿيل پراڊڪٽ ذميواري هدايت، هدايت (EU) 2024/2853، 8 ڊسمبر 2024 تي لاڳو ٿيو ۽ 9 ڊسمبر 2026 تائين قومي قانون ۾ منتقل ڪيو وڃي؛ اهو مارڪيٽ ۾ رکيل شين تي لاڳو ٿئي ٿو يا ان تاريخ کان پوءِ خدمت ۾ رکيو وڃي ٿو، تنهن ڪري سول ڪوڊ جون موجوده دفعات ان کان اڳ گردش ڪيل شين تي حڪومت ڪنديون رهن ٿيون. AI سسٽم لاءِ ذميواري لاءِ چار تبديليون اهم آهن.

سافٽ ويئر، جنهن ۾ AI سسٽم ۽ ڊجيٽل پيداوار فائلون شامل آهن، واضح طور تي هڪ پيداوار آهي. ذميوار ڌرين جو دائرو ٺاهيندڙ کان ٻاهر وسيع ٿئي ٿو ته جيئن اهو پارٽي شامل ٿئي جيڪا ٺاهيندڙ جي ڪنٽرول کان ٻاهر هڪ پيداوار کي خاص طور تي تبديل ڪري ٿي، مجاز نمائندو، درآمد ڪندڙ ۽، مقرر ڪيل حالتن ۾، پورو ڪرڻ واري سروس فراهم ڪندڙ ۽ آن لائن پليٽ فارم. وصولي لائق نقصان ڊيٽا جي تباهي يا بدعنواني تائين وڌايو ويندو آهي جيڪو پيشه ورانه طور تي استعمال نه ڪيو ويندو آهي، جيڪو سافٽ ويئر جي ناڪامين ۾ نقصان جو هڪ حقيقي درجو آهي. ۽ هڪ پيداوار خراب ٿي سگهي ٿي ڇاڪاڻ ته ان کي مارڪيٽ ۾ رکڻ کان پوءِ ڇا ٿيندو آهي: گهربل سافٽ ويئر اپڊيٽ ۾ خرابي، سيڪيورٽي اپڊيٽ جي فراهمي ۾ ناڪامي، يا مسلسل سکيا جا اثر جتي پيدا ڪندڙ ان تي ڪنٽرول برقرار رکيو.

هي سڌارو ثبوت جي مسئلي تي سڌو سنئون حملو ڪري ٿو. عدالت دعويدار جي درخواست تي مدعا عليه کي لاڳاپيل ثبوت ظاهر ڪرڻ جو حڪم ڏئي سگهي ٿي، ۽ جيڪڏهن مدعا عليه تعميل نه ڪندو آهي، ته پوءِ عيبداريءَ جو تصور ڪيو ويندو آهي. عيبداريءَ ۽ سبب جي رد ٿيندڙ مفروضا لاڳو ٿين ٿا جتي دعويدار کي ٽيڪنيڪل يا سائنسي پيچيدگي جي ڪري انهن کي ثابت ڪرڻ ۾ تمام گهڻي ڏکيائي کي منهن ڏيڻو پوي ٿو، بشرطيڪه دعويدار امڪان کي ممڪن بڻائي. هڪ دعويدار لاءِ جيڪو هڪ ماڊل سان منهن ڏئي رهيو آهي، ڪو به مڪمل طور تي وضاحت نٿو ڪري سگهي، اهو هڪ قابل بحث ڪيس ۽ هڪ ناممڪن ڪيس جي وچ ۾ فرق آهي.

معاهدو، مطابقت ۽ خارج ڪرڻ جي شقن جون حدون

ڪاروبار جي وچ ۾ پهريون جنگ جو ميدان عام طور تي قانون جي بدران معاهدو هوندو آهي. هڪ AI سسٽم جو سپلائر اهو قرضدار هوندو آهي جيڪو ان تي اتفاق ڪيو ويو هو: پهچائيندڙ سسٽم کي معاهدي سان مطابقت رکڻ گهرجي ۽ اهي خاصيتون هجڻ گهرجن جيڪي خريد ڪندڙ توقع ڪرڻ جو حقدار هو. جتي هڪ سپلائر درستگي جي سطح، دستيابي جي سطح يا AI ايڪٽ جي تعميل جو واعدو ڪيو هو، ان کي پهچائڻ ۾ ناڪامي معاهدي جي ڀڃڪڙي آهي، ۽ ڪارڪردگي، نقصان ۽ تحليل جا عام علاج ڊفالٽ جي مناسب نوٽيس کان پوءِ ٿين ٿا.

سپلائرز حد ۽ خارج ڪرڻ جي شقن سان جواب ڏين ٿا، ۽ اهي شقون عام طور تي تجارتي ڌرين جي وچ ۾ اثرائتو هونديون آهن. اهي لامحدود نه آهن. هڪ شق کي الڳ ڪري سگهجي ٿو جتي ان تي ڀروسو ڪرڻ معقوليت ۽ انصاف جي معيارن جي مطابق ناقابل قبول هوندو، جيڪو رستو عدالتون سپلائر جي طرف کان جان بوجھ ڪري لاپرواهي يا سنگين غلطي جي ڪيسن ۾ اختيار ڪن ٿيون، ۽ جتي شق عام طور تي آهي ته اهو ناڪام ٿي سگهي ٿو جيڪڏهن ٻئي ڌر کي ڪڏهن به انهن جو نوٽيس وٺڻ جو حقيقي موقعو نه ڏنو ويو. پراڊڪٽ جي ذميواري جي نظام جي تحت ذميواري کي زخمي پارٽي جي خلاف بلڪل به ختم نه ٿو ڪري سگهجي. عملي طور تي ڳالهه ٻولهه ڪيپس، ڊيٽا جي ڀڃڪڙين ۽ IP جي خلاف ورزي لاءِ ڪاروائي، ريگيوليٽري جرمانن لاءِ معاوضي، ۽ سپلائر جي ذميواري بابت آهي ته دستاويز ۽ لاگ مهيا ڪن جيڪي گراهڪ کي پاڻ کي بچائڻ لاءِ گهربل آهن. نقصانن جي دعوائن تي اسان جو صفحو بيان ڪري ٿو ته اهي دعوائون ڪيئن ٺهيل آهن.

AI ايڪٽ ڇا ڪري ٿو ۽ ڇا نٿو ڪري

اي آءِ ايڪٽ هڪ ريگيوليٽري اوزار آهي. اهو فراهم ڪندڙن ۽ ڊيپلائيئرز کي ٻڌائي ٿو ته ڇا ڪجي ۽ نگرانن کي ان کي لاڳو ڪرڻ جا اختيار ڏئي ٿو؛ اهو اي آءِ سسٽم پاران نقصان پهچائيندڙ شخص لاءِ معاوضي جو حق پيدا نٿو ڪري. تجويز ڪيل اي آءِ ذميواري هدايت، جيڪا سول دعوائن کي هم آهنگ ڪري ها ۽ بورڊ ۾ ظاهر ڪرڻ ۽ مفروضن کي متعارف ڪرائي ها، واپس ورتو ويو آهي. جيڪو باقي آهي اهو مٿي بيان ڪيل ميلاپ آهي: قومي تشدد ۽ معاهدي جو قانون، گڏوگڏ سڌريل پيداوار جي ذميواري جو نظام.

اهو AI ايڪٽ کي ذميواري سان غير لاڳاپيل نٿو بڻائي. اهو ٽن طريقن سان اهم آهي. اهو سنڀال جي معيار کي درست ڪري ٿو، انهي ڪري ته غير تعميل غفلت جو ثبوت آهي. اهو دستاويز پيدا ڪري ٿو، ڇاڪاڻ ته ٽيڪنيڪل دستاويز، استعمال لاءِ هدايتون، لاگ ۽ پوسٽ مارڪيٽ مانيٽرنگ فائل سڀ قانون طرفان موجود آهن ۽ ڪارروائي ۾ مطالبو ڪري سگهجن ٿا. ۽ اهو ڪردار مختص ڪري ٿو، ته جيئن سوال ته ڪير فراهم ڪندڙ آهي ۽ ڪير مقرر ڪندڙ آهي، جيڪو اڳ ۾ بحث جو موضوع هوندو هو، هاڻي هڪ قانوني جواب آهي. اسان جو IT قانون جو عمل انهن درجه بندي جي سوالن سان معاملو ڪري ٿو ان کان اڳ جو اهي تڪرار بڻجي وڃن.

جتي استعمال ڪندڙ ۽ پيدا ڪندڙ ملن ٿا

گھڻا حقيقي واقعا زنجير جي هڪ ڇيڙي تي هڪ ناڪامي جي ڪري نه ٿيندا آهن. اهي هڪ ماڊل جي ڪري ٿيندا آهن جيڪو ڊيٽا تي تربيت يافته هو جيڪو آبادي جي نمائندگي نه ڪندو هو جنهن تي اهو لاڳو ڪيو ويو هو، هڪ سپلائر پاران ضم ڪيو ويو جنهن ان کي ان حوالي سان جانچ نه ڪيو، هڪ تنظيم پاران مقرر ڪيو ويو جيڪو ان کي اهڙي مقصد لاءِ استعمال ڪيو جنهن ۾ هدايتون شامل نه هيون، ۽ عملي پاران هلائي رهيا هئا جن کي ڪڏهن به نه ٻڌايو ويو ته ان جون حدون ڇا آهن. ڊچ قانون کي ان سان ڪا به ڏکيائي ناهي: ڪيترائي پارٽيون ساڳئي نقصان لاءِ ذميوار ٿي سگهن ٿيون، هر هڪ زخمي پارٽي جي طرف ان جي پوري لاءِ ذميوار آهي، ۽ اهي اندروني ورڇ کي بعد ۾ انهن جي لاڳاپيل تعاون جي مطابق حل ڪن ٿا.

هيٺ ڏنل جدول بيان ڪري ٿو ته ذميواري عام طور تي ڪٿي ۽ ڪهڙي بنياد تي هوندي آهي.

ڊچ ٻارن جي سنڀال جي فائدن جو معاملو اهو حوالو نقطو آهي جنهن ڏانهن هر ڊچ بحث واپس اچي ٿو، ۽ اهو قانون جي حڪمراني جي بدران نموني کي واضح ڪري ٿو: هڪ مبهم خطري جي درجه بندي جو نظام، حقيقي انفرادي تشخيص کان سواءِ ان جي پيداوار تي ڪيل فيصلا، ۽ نتيجا جيڪي مڪمل طور تي وصول ڪندڙ آخر ۾ ماڻهن تي پوندا آهن. ان جو قانوني نتيجو مجرمانه جي بدران انتظامي ۽ سياسي هو، ۽ اسان بحث ڪريون ٿا ته اهو AI ۽ مجرمانه قانون تي اسان جي مضمون ۾ مجرمانه ذميواري بابت ڇا ڪري ٿو ۽ ڇا نٿو ڏيکاري.

ثبوت جو مسئلو، ۽ اهو ڪيئن بدلجي رهيو آهي

جيڪو به دعويٰ آڻيندو آهي ان کي اهو ثابت ڪرڻو پوندو آهي، ۽ AI ڪيسن ۾ ثبوت ڏکيو حصو هوندو آهي. دعويٰ ڪندڙ کي اهو ڏيکارڻو پوندو آهي ته سسٽم ڇا ڪيو، اهو ڇو غلط هو، ۽ اهو غلط نقصان جو سبب بڻيو. اهو ڪرڻ لاءِ گهربل معلومات مدعا عليه سان گڏ هوندي آهي، ۽ هڪ پيچيده ماڊل ۾ ان کي اندروني طور تي ٻيهر تعمير ڪرڻ به واقعي ڏکيو ٿي سگهي ٿو.

ٽي ترقيون ان توازن کي تبديل ڪري رهيون آهن. لاگنگ هاڻي اعليٰ خطري واري نظام لاءِ هڪ قانوني گهرج آهي، تنهن ڪري اهو رڪارڊ جيڪو اختياري هوندو هو اهو موجود هجڻ گهرجي. پراڊڪٽ جي ذميواري جي دعوائن ۾ ثبوتن جو ظاهر ڪرڻ سڌاريل نظام تحت دستياب ٿي ويندو آهي، جنهن جي پٺڀرائي عيب جي مفروضي سان ڪئي ويندي آهي جتي مدعا عليه تعميل نه ڪندو آهي. ۽ ڊچ سول طريقيڪار اڳ ۾ ئي هڪ پارٽي کي مخصوص سڃاڻپ ٿيل دستاويزن جي پيداوار جو مطالبو ڪرڻ جي اجازت ڏئي ٿو جنهن ۾ ان جو جائز مفاد آهي، جيڪو باقاعده طور تي ٽيسٽ رپورٽون، واقعن جي لاگ ۽ اندروني خطري جي تشخيص حاصل ڪرڻ لاءِ استعمال ڪيو ويندو آهي.

هڪ مدعا عليه لاءِ عملي نتيجو تڪليفده آهي پر واضح آهي: توهان جيڪي دستاويز رکو ٿا اهي دستاويز آهن جيڪي توهان جي خلاف پڙهيا ويندا، ۽ جيڪي دستاويز توهان رکڻ ۾ ناڪام ٿيا اهي توهان جي خلاف پڻ رکيا ويندا. جاچ جا مڪمل، تاريخ وارا، ايماندار رڪارڊ، سڃاتل حدون، واقعا ۽ انهن جي سنڀال سڀ کان مضبوط دستياب دفاع آهن، ڇاڪاڻ ته اهي ڏيکارين ٿا ته تنظيم بهترين جي اميد رکڻ بدران فيصلي جو استعمال ڪيو. جتي واقعي جو هڪ مجرمانه طول و عرض پڻ آهي، مثال طور سسٽم تائين غير مجاز رسائي يا ڊيٽا جي هٿرادو، هالينڊ ۾ ڪمپيوٽر جرم ۽ سائبر جرم لاءِ مجرمانه فريم ورڪ سول دعويٰ سان گڏ لاڳو ٿئي ٿو، ۽ هڪ مجرمانه جاچ بلڪل ساڳئي مواد کي ضبط ڪندي.

جسماني دنيا ۾ خودمختيار نظام

جتي هڪ AI سسٽم گاڏي هلائي ٿو، ڊرون اڏائي ٿو يا روبوٽ بازو هلائي ٿو، ذميواري جي هڪ وڌيڪ پرت لاڳو ٿئي ٿي، ۽ اهو عام طور تي هاڻي تائين بحث ڪيل ڪنهن به شيءِ کان وڌيڪ سخت آهي. جسماني نقصان خطري جي ذميواري کي راغب ڪري ٿو، جيڪو اهو نه پڇي ٿو ته ڇا ڪو لاپرواهه هو.

موٽر گاڏين لاءِ، روڊ ٽريفڪ ايڪٽ 1994 جو آرٽيڪل 185 موٽر گاڏي جي مالڪ يا سنڀاليندڙ کي پيادلن ۽ سائيڪل سوارن کي ٿيندڙ نقصان جو ذميوار بڻائي ٿو جيستائين ڪو زبردستي واقعو نه ٿئي، هڪ معيار جيڪو پورو ڪرڻ تمام ڏکيو آهي. اهو قاعدو ان ڳالهه کان لاتعلق آهي ته ڪو انسان يا ڊرائيور مدد وارو نظام اسٽيئرنگ ڪري رهيو هو: سنڀاليندڙ پهريان جواب ڏيندو آهي، ۽ سافٽ ويئر ٺاهيندڙ جي خلاف ڪو به رستو بعد ۾ ايندو آهي. عوامي روڊن تي حقيقي طور تي خود هلائيندڙ گاڏين جي جانچ ڪرڻ لاءِ وقف ٿيل ڊچ تجرباتي قانون جي تحت اجازت جي ضرورت هوندي آهي، ۽ ان اجازت سان ڳنڍيل شرطون، بشمول هڪ سپروائيزر جي موجودگي ۽ ڪردار، سنڀال جي معيار جو حصو بڻجي وينديون آهن.

بغير پائلٽ جهاز يورپي ڊرون ضابطن جي تابع آهن، آپريٽر رجسٽريشن ۽ ڪيٽيگري تي منحصر گهرجن کي هالينڊ ۾ رِجڪس انسپيڪٽي ڊجيٽل انفراسٽرڪچر پاران منظم ڪيو ويندو آهي. هڪ آپريٽر جيڪو پنهنجي ڪيٽيگري کان ٻاهر پرواز ڪري ٿو، يا گهربل قابليت کان سواءِ، نه رڳو هوائي ضابطن جي ڀڃڪڙي ڪري ٿو؛ اهو ان رويي کان به ٻاهر نڪري چڪو آهي جيڪو عدالت محتاط سڏيندي، جيڪو آٽو پائلٽ بابت ٽيڪنيڪل بحث شروع ٿيڻ کان اڳ ئي غفلت جي سوال کي حل ڪري ٿو.

انهن ضابطن سان گڏ، خراب شين تي عام قاعدو به آهي. هڪ اهڙي حرڪت واري شيءِ جو مالڪ جيڪو ان لاءِ مقرر ڪيل معيارن تي پورو نه لهي، ۽ ان ڪري هڪ خاص خطرو پيدا ڪري، ان نقصان جو ذميوار آهي جيڪو خطرو پيدا ڪري ٿو. اهو قاعدو جسماني مشين تائين پهچي ٿو جيتوڻيڪ بنيادي خرابي ان جي سافٽ ويئر ۾ هجي، جيڪو هڪ سبب آهي ته صنعتي روبوٽ يا خودڪار گودام سسٽم جو مالڪ صرف وڪرو ڪندڙ ڏانهن اشارو نٿو ڪري سگهي. جتي پيداوار جي ذميواري جو نظام لاڳو ٿئي ٿو، ٻئي نظام رابطي ۾ اچن ٿا، ۽ زخمي پارٽي عام طور تي جيڪو به رستو ثابت ڪرڻ آسان آهي ان جي پيروي ڪندي.

خودمختيار ڪمن سان مشينري هلائڻ وارين تنظيمن لاءِ عملي نتيجو اهو آهي ته انشورنس ۽ معاهدي کي سخت ذميواري جي چوڌاري ترتيب ڏيڻو پوندو، نه ته غلطي تي ٻڌل تجزيي جي چوڌاري. سپلائر خلاف مدد حاصل ڪرڻ جي لائق آهي، پر اهو دعويٰ کي پهريان توهان جي دروازي تي پهچڻ کان نٿو روڪي.

ٻنهي پاسن تي نمائش گهٽائڻ

اهي قدم جيڪي AI سسٽم جي ذميواري کي گهٽائين ٿا اهي ساڳيا قدم آهن جيڪي سسٽم کي صحيح طريقي سان ڪم ڪن ٿا، اهو ئي سبب آهي ته اهي ريگيوليٽري ڪئلينڊر جي پرواهه ڪرڻ جي لائق آهن.

هڪ ڊيپلائينگ آرگنائيزيشن لاءِ، انوینٽري سان شروع ڪريو: ڪهڙا سسٽم استعمال ۾ آهن، انهن کي ڪير فراهم ڪري ٿو، اهي ڇا فيصلو ڪن ٿا يا اثر انداز ٿين ٿا، ۽ ڪير انهن کي هلائي ٿو. هر هڪ لاءِ پنهنجو ڪردار قائم ڪريو، ڇاڪاڻ ته فراهم ڪندڙ ۽ ڊيپلائير جا فرض مختلف آهن. پوءِ ارادي جو مقصد لکو ۽ ان جي اندر رهو؛ بچڻ واري ذميواري جو واحد عام سبب هڪ اوزار کي ڪنهن اهڙي شيءِ لاءِ استعمال ڪرڻ آهي جنهن لاءِ ان جي تصديق نه ڪئي وئي هئي. سسٽم هلائيندڙ ماڻهن کي ان کي اوور رائيڊ ڪرڻ جو حقيقي اختيار ڏيو، ۽ انهن کي حجم جي بدران فيصلي تي ماپيو. لاگ رکو، ۽ انهن کي ايتري ڊگهي رکو جو تڪرار ۾ ڪارآمد ٿي سگهن. واقعن کي رڪارڊ ڪريو، جنهن ۾ ويجهي مس شامل آهن، ۽ انهن بابت ڇا ڪيو ويو هو رڪارڊ ڪريو.

هڪ پيدا ڪندڙ يا سپلائر لاءِ، برابر فهرست زندگي جي چڪر ذريعي هلندي آهي: دستاويزي خطري جو انتظام، ڊيٽا گورننس جيڪا هڪ ريگيوليٽر کي وضاحت ڪري سگهجي ٿي، آبادي جي خلاف جانچ جنهن تي سسٽم اصل ۾ استعمال ڪيو ويندو، استعمال لاءِ هدايتون جيڪي حدون ۽ غلطي جي شرحن بابت ايماندار آهن يقين ڏيارڻ جي بدران، گراهڪن لاءِ مسئلن جي رپورٽ ڪرڻ لاءِ هڪ چينل، ۽ هڪ اپڊيٽ پاليسي جيڪا ٻڌائي ٿي ته سيڪيورٽي پيچس لاءِ ڪير ذميوار آهي ۽ ڪيتري وقت تائين. سڌريل پراڊڪٽ جي ذميواري جو نظام ان آخري نقطي کي اڳ کان وڌيڪ تيز ڪري ٿو: اپڊيٽس جي فراهمي ۾ ناڪامي جيڪا توهان فراهم ڪرڻ لاءِ ڪئي هئي پاڻ کي پراڊڪٽ کي خراب ڪري سگهي ٿي.

ٻنهي ڌرين کي معاهدي کي رسم جي بدران خطري جي ورڇ جي مشق طور سمجهڻ گهرجي. اهي شقون جيڪي اهم آهن اهي آهن ارادي جي وضاحت، تعميل ۽ ڪارڪردگي بابت وارنٽيون، دستاويز ۽ لاگ هٿ ڪرڻ جي ذميواري، ٻنهي طرفن ۾ واقعن جي اطلاع جا فرض، ذميواري جي حد ۽ ان جا نقشا، ٽئين پارٽي جي دعوائن ۽ ريگيوليٽري جرمانن لاءِ معاوضا، ۽ نڪرڻ جا انتظام جيڪي اهو طئي ڪن ٿا ته ماڊل ۽ ڊيٽا سان ڇا ٿيندو جيڪڏهن تعلق ختم ٿئي ٿو. هڪ حد جيڪا خلاصي ۾ ڳالهه ٻولهه ڪئي وئي آهي، بغير نظام اصل ۾ فيصلو ڪرڻ جي حوالي سان، ڪنهن کي به تحفظ نه ڏيندي.

آخرڪار، مجرمانه نمائش کي نظر ۾ رکو، جيتوڻيڪ فوري خطرو سول هجي. AI جي ناڪامي تي ڪمپني جي خلاف ڪارروائي اڃا تائين غير معمولي آهي، پر عنصر عام آهن: هڪ فرض، هڪ خلاف ورزي، هڪ متوقع نقصان ۽ هڪ تنظيم جيڪا خطري کي قبول ڪندي ڏيکاري سگهجي ٿي. جتي هڪ سسٽم کي ڪنهن واضح طور تي غير قانوني شيءِ لاءِ استعمال ڪيو ويندو آهي، يا جتي هڪ ڪمپني هڪ سسٽم کي هلائڻ جاري رکي ٿي جيڪا ان کي نقصان پهچائڻ جي خبر آهي، مجرمانه رستو کليل آهي، ۽ تجزيو ڊچ فوجداري قانون تي اسان جي مضمون ۽ الگورتھم ۽ مجرمانه ذميواري تي ساٿي مضمون ۾ مڪمل طور تي بيان ڪيو ويو آهي.

وچان وچان سوال ڪرڻ

Law & More انهن تنظيمن کي صلاح ڏئي ٿو جيڪي AI سسٽم ٺاهين ٿا ۽ انهن کي استعمال ڪندڙ تنظيمون، معاهدن ۾ خطري جي ورهاست تي، AI ايڪٽ تحت درجه بندي ۽ فرضن تي، ۽ جڏهن ڪنهن نظام نقصان پهچايو آهي ته دعوائن جو دفاع ڪرڻ يا آڻڻ تي. جيڪڏهن توهان جي تنظيم ۾ هڪ AI سسٽم اهڙو فيصلو ڪيو آهي جيڪو هاڻي چئلينج ڪيو پيو وڃي، ته اسان سان رابطو ڪريو ته جيئن اسان جلدي پوزيشن جو جائزو وٺي سگهون.