به گزارش دادرسی پرس، هوش مصنوعی مولد (Generative AI) که قرار بود ابزاری برای افزایش دقت و سرعت در امور حقوقی باشد، اکنون به چالشی جدی برای اعتبار وکلا تبدیل شده است.
پدیده «توهم هوش مصنوعی» (AI Hallucination) – یعنی زمانی که سیستم، اطلاعاتی کاملاً نادرست اما بسیار باورپذیر تولید می‌کند – این بار به قلب اسناد رسمی دادگاه‌های فدرال نفوذ کرده است.
دادگاه‌ها در سراسر جهان گزارش می‌دهند که در حال دریافت لوایح و اسناد حقوقی از سوی وکلا هستند که مملو از استنادات جعلی است؛ از پرونده‌های دادگاهی که هرگز وجود نداشته‌اند، تا نقل‌قول‌های ساختگی و منابعی که هوش مصنوعی آن‌ها را از خود ابداع کرده است. این روند نگران‌کننده، که می‌تواند اعتبار نظام قضایی را زیر سوال ببرد، باعث جریمه شدن چندین وکیل و افزایش هشدارها در مورد اعتماد کورکورانه به این فناوری شده است.
ردیابی ۴۹۰ سند جعلی؛ نتیجه «توهم هوش مصنوعی» در ۶ ماه
دیمین شارلوتَن (Damien Charlotin)، وکیل و دانشمند داده فرانسوی، در حال پیگیری این موضوع است. به نقل از دیجیتال‌ترندز، او دریافته که تنها در ۶ ماه گذشته، دست‌کم ۴۹۰ سند دادگاهی شامل چنین «توهماتی» از سوی هوش مصنوعی بوده است.
بیشتر این موارد مربوط به ایالات متحده هستند، جایی که قضات، وکلا را به خاطر ارائه این مطالب ساختگی تولیدشده توسط هوش مصنوعی مورد انتقاد و حتی جریمه قرار داده‌اند. در یکی از پرونده‌های بزرگ، وکیل شرکت MyPillow گزارشی به دادگاه ارائه داد که نزدیک به ۳۰ منبع جعلی در آن وجود داشت.
چرا «توهم هوش مصنوعی» یک خطر جدی برای وکلا است؟
مشکل اینجاست که هوش مصنوعی به طرز حیرت‌انگیزی در «باورپذیر حرف زدن» مهارت دارد، حتی زمانی که کاملاً اشتباه می‌کند. «توهم هوش مصنوعی» جوابی تولید می‌کند که درست و منطقی به نظر می‌رسد، اما در واقعیت کاملاً غلط است.
به گفته شارلوتن، حتی افراد باهوش و باتجربه (مانند وکلا) نیز ممکن است فریب آن را بخورند و این مسئله خطری جدی برای هر موسسه حقوقی است که بدون بررسی مجدد، به نتایج تولیدشده توسط هوش مصنوعی اعتماد می‌کند.
راهکار مقابله با «توهم هوش مصنوعی»: دستیار، نه جایگزین
کارشناسان هشدار می‌دهند که هرگز نباید کورکورانه از این ابزارها استفاده کرد. ماریا فلین (Maria Flynn)، مدیرعامل سازمان Jobs for the Future، می‌گوید: «با هوش مصنوعی مانند یک دستیار رفتار کنید، نه جایگزین».
وکلا و سایر متخصصان باید همچنان «انسانِ در چرخه» باقی بمانند؛ کسی که واقعیت‌ها را بررسی می‌کند و مطمئن می‌شود اطلاعات صحیح هستند. یک وکیل می‌گوید: «مردم فرض می‌کنند پاسخ درست است، فقط چون درست به نظر می‌رسد، اما این فرض ممکن است برایشان گران تمام شود.»
کارشناسان تاکید می‌کنند که آینده درباره جایگزینی انسان با هوش مصنوعی نیست؛ بلکه درباره انسان‌هایی است که بلدند از هوش مصنوعی به‌درستی و مسئولانه استفاده کنند و «توهم هوش مصنوعی» را تشخیص دهند.
بیشتر بخوانید:
