تأثیر ظهور هوش مصنوعی بر اعتبار و جایگاه ادله اثبات دعوا
نظام حقوقی ایران، همانند بسیاری از نظامهای حقوقی در سراسر جهان، برای اثبات دعاوی و احقاق حق، به مجموعهای از دلایل و امارات تکیه دارد.
این دلایل که در قوانین مختلف از جمله قانون مدنی، قانون آیین دادرسی مدنی و قانون آیین دادرسی کیفری تصریح شدهاند، ابزارهایی هستند که قاضی را در رسیدن به علم و یقین و در نهایت صدور رأی عادلانه یاری میکند.
شهادت شهود، اسناد کتبی، اقرار، سوگند، معاینه محل، تحقیق محلی، کارشناسی و حتی علم قاضی، از جمله مهمترین دلایل اثبات دعوا در حقوق ایران به شمار میروند.
هر یک از این دلایل، ارزش و جایگاه خاص خود را دارند و قاضی با در نظر گرفتن اوضاع و احوال پرونده و با استناد به این دلایل، به اصالت و صحت ادعای طرفین پی میبرد.
با این حال، پیشرفتهای شگرف و روزافزون در حوزه هوش مصنوعی، چالشهای جدید و بیسابقهای را برای این نظام سنتی اثبات دعوا به ارمغان آورده است.
هوش مصنوعی دیگر صرفاً به ابزارهای سادهای برای تسهیل زندگی محدود نمیشود؛ بلکه به قدری پیشرفته شده که قادر به تولید محتوای صوتی، تصویری و متنی با کیفیتی خیرهکننده و در برخی موارد غیرقابل تشخیص از واقعیت است.
این قابلیتها، در عین حال که میتوانند کاربردهای مثبت فراوانی داشته باشند، پتانسیل سوءاستفادههای گستردهای را نیز فراهم میکنند و میتوانند نظام قضایی را با بحران مشروعیت و چالشهای جدی در زمینه کشف حقیقت مواجه سازند.
هوش مصنوعی: شعبدهبازی جدید یا تهدید جدی؟ از دیپفیک تا ویدئوهای واقعینما
هوش مصنوعی در این سالها واقعاً دست به کارهای عجیبی زده است. مثلاً جعل عمیق( دیپفیک) را در نظر بگیرید؛ این فناوری میتواند کاری کند که شما فکر کنید فلانی حرفی را زده یا کاری را کرده، در حالی که اصلاً چنین چیزی صحت ندارد و هرگز در واقعیت اتفاق نیفتاده است.
جعل عمیق ( دیپ فیک) که مبتنی بر هوش مصنوعی است یعنی استفاده از چهره یک نفر که با فناوری دیجیتال روی بدن فرد دیگری قرار داده می شود و چهره یک فرد با چهره شخص دیگری جایگزین می شود البته این قابلیت در تغییر صدا هم وجود دارد.
این جعل های عمیق( دیپفیکها) آنقدر حرفهای ساخته میشوند که حتی چشمهای تیزبین کارشناسها هم به سختی میتوانند جعلی بودنشان را تشخیص دهند.
استفاده از این فناوری به اندازه ای رسوایی به بار آورده است که دولت بریتانیا اعلام کرد قصد دارد قانونی در زمینه جعل عمیق( دیپ فیک) تصاویر صریح جنسی ایجاد کند تا هرکسی که بدون رضایت افراد با تصاویر آنها تصویر جنسی ایجاد کند مجازات گردد حتی اگر سازنده قصد به اشتراک گذاشتن آنها را نداشته باشد.
تصور کنید ویدئویی از یک فرد مشهور یا یک متهم ارائه میشود که در آن در حال اعتراف به جرمی است، در حالی که او هرگز چنین حرفی نزده است. این ویدئوها به قدری طبیعی به نظر میرسند که باور کردن دروغ بودنشان دشوار است.
همین طور، هوش مصنوعی میتواند عکسهایی بسازد که انگار واقعی هستند یا صدای یک نفر را طوری تقلید کند که از صدای خودش هم واقعیتر به نظر برسد. این یعنی حالا با ابزارهایی روبرو هستیم که مرز بین واقعیت و دروغ را بسیار باریک کردهاند و میتوانند به راحتی ما را فریب دهند و تشخیص حق و باطل از هر زمان دیگری سخت تر شده است.
چالش هوش مصنوعی برای عدالت: وقتی شواهد زیر سؤال میروند.
با قدرت عجیب هوش مصنوعی برای جعل، تمام دلایلی که ما در دادگاه برای اثبات یک موضوع به آنها تکیه میکنیم، به شدت در معرض خطر قرار میگیرند:
- شهادت شاهدها: حتی اگر شاهدها، سوء نیت نداشته باشند، دیدن یک ویدئوی جعل عمیق (دیپفیک) میتواند ذهن آنها را تحت تأثیر قرار دهد و باعث شود چیزی را باور کنند که هرگز اتفاق نیفتاده است. اینجاست که قاضی هم در سنجش حرف شاهدها به شک میافتد.
- اسناد و مدارک کتبی: هوش مصنوعی میتواند اسنادی را با امضای دیجیتال یا حتی با تمام جزئیات یک سند واقعی جعل کند که تشخیص اصل از فرع تقریباً غیرممکن شود. این سند جعلی میتواند به عنوان یک مدرک محکم در دادگاه ارائه شود.
- فیلم و صدای ضبط شده (دیپفیکها و ویدئوهای واقعینما): این مدارک که تا قبل از دوره هوش مصنوعی نقش زیادی در ایجاد علم قاضی داشت ، حالا متفاوت است.
جعل عمیق (دیپفیک) این قابلیت را دارد که جرم را به گردن بیگناهی بیندازد، یک قرارداد را به شکل دروغین اثبات کند، یا آبروی یک نفر را به راحتی ببرد. حالا قاضی که فقط علم قضایی دارد چگونه باید بین یک فیلم واقعی و یک ویدیوی کاملاً ساختگی تفاوت قائل شود!
- علم قاضی: قاضی با جمعآوری همه اطلاعات به علم میرسد و مطابق قانون آیین دادرسی کیفری حق دارد بر اساس علم خود رای صادر کند. اگر بخشی از این اطلاعات، مثلاً یک فیلم یا صدا، جعلی باشد و قاضی نتواند آن را تشخیص دهد، علم او بر پایه دروغ بنا میشود و نتیجهاش میشود یک حکم اشتباه و ضایع شدن حق.
- کارشناسان: همین الان هم برای تشخیص اصالت اسناد، فیلمها و صداها به کارشناس نیاز داریم. اما با این همه پیشرفت هوش مصنوعی در جعل، آیا کارشناسان ما هم به همان اندازه بهروز هستند؟ آیا ابزارهای لازم را برای تشخیص جدیدترین روشهای جعل در اختیار دارند؟ همان گونه که گفتیم بعضی ویدئوها به اندازه ای حقیقی است که بیراه نیست اگر بگوییم دیگر نباید به چشمان خود اعتماد کنید.
قبل از نگارش این مقاله اندکی ویدئوهای مربوط به جعل عمیق را مشاهده کردم و احساسم فقط شگفت زدگی بود و هوش از سر آدم می پراند.
«خدایا این دیگه واقعا تام کروزه»
« این اوباما است؟!»
چاره چیست؟ تحولی جامع برای عبور از این چالش
با توجه به این مشکلات بزرگ و بیسابقه، به نظر میرسد که نظام حقوقی ما نیازمند یک تحول دیجیتال اساسی است تا بتواند خود را با واقعیتهای عصر هوش مصنوعی تطبیق دهد و از خدشهدار شدن عدالت جلوگیری کند.
این تحول باید چندوجهی باشد و شامل اقدامات قانونی، اجرایی و فناورانه باشد:
۱. اصلاحات و بازنگری در قوانین (قانون باید همگام با فناوری پیش برود):
- کاهش اعتبار مطلق دلایل دیجیتال: در قوانین آیین دادرسی باید صراحتاً قید شود که اسناد و شواهد دیجیتال (مانند فیلم، صدا، و تصویر) به خودی خود و بدون راستیآزمایی دقیق، اعتبار مطلق ندارند. شاید لازم باشد یک «اصل بر عدم اصالت» موقت برای این گونه مدارک در نظر گرفته شود تا زمانی که اصالت آنها از طریق فنی اثبات شود. این یعنی ارائهدهنده مدرک دیجیتال، بار سنگینتری برای اثبات صحت آن بر دوش دارد.
- تصویب قوانین خاص در مورد جعل دیجیتال: جرمانگاری مشخص برای جعل محتوای دیجیتال با استفاده از هوش مصنوعی” و استفاده از محتوای دیجیتال مجعول در فرآیندهای قضایی امری ضروری است. مجازاتها باید به گونهای بازدارنده باشند که انگیزه ارتکاب چنین جرایمی را از بین ببرند. کشورهای بسیاری در حال جرم انگاری جعل عمیق( دیپ فیک) هستند به خصوص در مورد اشخاصی که با تصاویر دیگران ویدئوهای جنسی تولید می کنند یا از ویدئو برای تهدید و باج گیری استفاده می کنند.
- تغییر در بار اثبات : در مواردی که ادله دیجیتال توسط یکی از طرفین ارائه میشود و طرف مقابل ادعای جعلی بودن آن را دارد، بار اثبات اصالت آن مدرک باید بر عهده ارائهدهنده مدرک قرار گیرد.
- افزایش دامنه اعاده دادرسی: هرچند در جهات اعاده دادرسی در قوانین آیین دادرسی، جعل مدرک موجود است، اما شاید لازم باشد که در مورد جعل محتوای دیجیتال با هوش مصنوعی به صراحت اظهار نظر شود و در موارد اعاده دادرسی ذکر شود تا هیچ ابهامی در خصوص امکان جبران اشتباهات قضایی ناشی از این پدیده وجود نداشته باشد.
۲. تقویت و توسعه سازوکارهای اجرایی و کارشناسی
- ایجاد واحد تخصصی “بررسی اصالت محتوای دیجیتال” در قوه قضائیه: این واحد باید یک تیم قدرتمند و مستقل باشد که از کارشناسان مجرب در حوزه هوش مصنوعی، و تحلیل تصویر و صدا تشکیل شود. وظیفه اصلی این واحد، راستیآزمایی صحت و اصالت هرگونه محتوای دیجیتالی است که به عنوان مدرک در دادگاه ارائه میشود.
- آموزش مستمر و جامع قضات و کارشناسان: این مورد یکی از مهمترین و فوریترین گامهاست. قضات و کارشناسان ما باید با ماهیت هوش مصنوعی، روشهای نوین جعل (به ویژه دیپفیک) و ابزارهای تشخیص آن به طور کامل آشنا شوند. برگزاری دورههای تخصصی، کارگاههای عملی و تبادل دانش با متخصصان بینالمللی برای آنها ضروری است.
۳. بهرهگیری از خود هوش مصنوعی
- توسعه ابزارهای هوش مصنوعی برای تشخیص جعل : شرکتهای فناوری و مراکز تحقیقاتی باید در توسعه ابزارهایی که قادر به تشخیص دیپفیک، تصاویر و صداهای جعلی هستند، سرمایهگذاری کنند. این ابزارها باید به طور مداوم بهروزرسانی شده و در اختیار واحد تخصصی قوه قضائیه قرار گیرند.
۴. آگاهیسازی عمومی و پیشگیری:
- آموزش شهروندان: افزایش آگاهی عمومی در مورد خطرات هوش مصنوعی و دیپفیک و نحوه تشخیص آنها، ضروری است و شهروندان باید هوشیارتر عمل کنند. کشور ما هنوز به طور گسترده درگیر ویدئوهای جعل عمیق نشده است اما مردمان کشورهایی که چنین تجربه ای داشته اند آن را بسیار ترسناک توصیف می کنند. شاید برای شما جالب باشد که بدانید بعضی از این ویدئوها با نرم افزارهای رایگان ساخته می شود و آبروی افراد را در معرض خطر قرار می دهد.
- فرهنگسازی در حوزه قضا: ایجاد یک فرهنگ احتیاط و دقت مضاعف در بین قضات و وکلا نسبت به ادله دیجیتال، به خصوص در مواردی که پای ادعاهای بزرگ و مهم در میان است، اهمیت بالایی دارد.
حرف آخر: چالش بزرگ عصر دیجیتال و فرصتی برای تحول
هوش مصنوعی با همه خوبیهایش، یک چالش بزرگ و جدید را پیش روی سیستم قضایی ما قرار داده است. قدرت این فناوری در خلق دیپفیک و ویدئوهای واقعینما، میتواند ریشههای اثبات حقیقت را بلرزاند و عدالت را به خطر بیندازد.
نظام حقوقی ایران، با تکیه بر اصول عدالت ، باید به سرعت به این چالشها پاسخ دهد.
این پاسخ شامل یک تحول دیجیتال در نظام حقوقی است که شامل بهروزرسانی و تکمیل قوانین، ایجاد ساختارهای تخصصی و آموزش مستمر نیروی انسانی، سرمایهگذاری در فناوریهای تشخیص جعل و استفاده از هوش مصنوعی برای مبارزه با خود هوش مصنوعی، و همچنین افزایش آگاهی عمومی و ایجاد یک فرهنگ قضایی هوشمندانه باشد.
نادیده گرفتن این چالش، میتواند به تزلزل در اعتماد عمومی به سیستم قضایی و خدشهدار شدن عدالت منجر شود.
دیر یا زود، کشور ما نیز دچار این بحران خواهد گردید و چه زیبا است که برای مواجهه با چنین چالشی آمادگی داشته باشیم، تا آن زمان یادتان باشد: بعضی اوقات که از روزگار شکایت داریم می گوییم « چه دوره و زمانه ای شده دیگر نمی توانیم به چشم هایمان اعتماد کنیم» اما در حال حاضر با فناوری جعل عمیق ( دیپ فیک) به شما توصیه می کنم:
نباید به چشم های خود اعتماد کنید!
مطالب بیشتر:
