هوش مصنوعی که امروزه در صدر اخبار جهان قرار گرفته است، اگر چه کارکرد‌های مفید زیادی برای جوامع انسانی به همراه داشته، به نظر می‌رسد توسعه آن خطرات هم به دنبال دارد.
چه کسی فکرش را می‌کرد که موقعیت گوگل به‌عنوان قهرمان بلامنازع موتورهای جستجو، اینقدر ناگهانی مورد چالش قرار بگیرد؟ اما الان هوش مصنوعی با ظرفیت‌های شگفت‌انگیزش دنیای فناوری را به چالش کشیده و رهبران تکنولوژی را نگران کرده و با رشد افسارگسیخته‌اش، پیامی به جوامع مخابره می‌کند مبنی بر اینکه با همه ویژگی‌های مثبتی که دارد، ریسک‌ها و خطراتی را نیز به همراه خواهد داشت.
برای سال‌ها، ما بی‌سروصدا با هوش مصنوعی از طریق دستیارهای صوتی، رسانه‌های اجتماعی، الگوریتم‌های جستجو، تشخیص چهره در تلفن‌هایمان و موارد دیگر در حال تعامل بوده‌ایم. اما با ظهور ChatGPT، هوش مصنوعی با حساسیت بیشتری در مرکز توجه قرار گرفته است.
خطر ایجاد اختلال در کسب‌وکار
به گزارش forbes، هوش مصنوعی مدل‌های کسب‌وکار و بازارهای موجود را به‌گونه‌ای مختل می‌کند که هیچ فناوری پیش از این چنین نکرده است. بارزترین مثال در این مورد، خود ChatGPT است. نگرانی‌ها چنان زیادی است که همین چند روز پیش بیش از هزار و صد نفر از رهبران فناوری دنیا در نامه‌ای خواستار توقف شش ماه توسعه مدل‌های پیشرفته‌تر از chatgpt-4 شدند.
به نظر می‌رسد که یکی یا دو سال پیش، بیشتر مردم تصور می‌کردند که هوش مصنوعی صنایعی را که به نیروی کار نسبتاً کم‌مهارت، مانند حمل‌ونقل و خدمات مشتری، یا در بدترین حالت کارهای بسیار فرایندمحور مانند تجارت مالی و رادیولوژی وابسته هستند، مختل می‌کند. اکنون به نظر می‌رسد که صنایع خلاق مانند رسانه‌ها و تبلیغات، کسب‌وکارهای خدمات شخصی مانند آموزش و مشاوره مالی و حتی بخش‌های مهارتی خاص مانند تحقیق و توسعه دارویی و علوم کامپیوتر هم در معرض خطر هستند.
براساس گزارش مارس ۲۰۲۳ گلدمن ساکس، ۳۰۰ میلیون شغل ممکن است با هوش مصنوعی مولد مانند ChatGPT در سراسر جهان حذف شود که ۱۹درصد از مشاغل موجود در ایالات متحده را شامل می‌شود.
ریسک‌های امنیت سایبری
ایمن نگه‌داشتن داده‌ها، سیستم‌ها و پرسنل یک سازمان در برابر هکرها و سایر خرابکاران، قبلا هم یک نگرانی بزرگ برای رهبران کسب‌وکارها بود. پیش‌بینی می‌شود تعداد حملات در سال ۲۰۲۲ تا ۳۸درصد افزایش یابد و به‌طور میانگین بیش از ۱۰۰۰ حمله در هر سازمان در طول هفته رخ دهد و میانگین هزینه هر نقض داده از چهار میلیون دلار فراتر رود.
هوش مصنوعی به صورت تصاعدی با این چالش روبه‌رو می‌شود. حملات فیشینگ احتمالا بسیار قدرتمند خواهند بود، به‌عنوان مثال، زمانی که هوش مصنوعی ChatGPT به کارکنان ایمیل‌های را ارسال می‌کند که ظاهرا از طرف رئیس هستند و این نامه‌ها را براساس اطلاعاتی که معمولاً برای رئیس شناخته می‌شود، ارسال کرده و حتی از سبک نوشتن رئیس استفاده می‌کند.
گزارش شده است که اراذل و اوباش سایبری حداقل از سال ۲۰۱۹ از تکنیک‌های دیپ‌فیک مانند کلون‌های صوتی استفاده می‌کنند. با بهبود و تنوع هوش مصنوعی هر روز، مشکل مدیریت ریسک سایبری بدتر می‌شود.
افزایش شهرت بیش از حد هوش مصنوعی
زمانی که ChatGPT برای اولین بار در معرض دید عموم قرار گرفت، مدیران گوگل در ابتدا دلیل عدم راه‌اندازی سریع هوش مصنوعی رقیب خود را به دلیل شهرت زیاد ChatGPT ذکر کردند. خطاها و شرمساری‌های بعدی بینگ و دیگران در چشم‌انداز هوش مصنوعی مولد، نگرانی‌های اولیه گوگل را به خوبی ثابت کرده است.
هنگامی که هوش مصنوعی به گونه‌ای رفتار می‌کند که با ارزش‌های کاربر مطابقت ندارد، می‌تواند منجر به فاجعه روابط عمومی شده و اشکال نوپای هوش مصنوعی می‌تواند منجر به مشکل برای کارکنان یک شرکت شود.
گاهی هوش مصنوعی می‌تواند رابطه افراد را با مشتریان خود خراب کند. طبق گفته Forrester، حدود ۷۵درصد از مصرف‌کنندگان از چت ربات‌های خدمات مشتری ناامید هستند و ۳۰ درصد پس از یک تعامل بد با خدمات مشتری مبتنی بر هوش مصنوعی، کسب‌وکار خود را به جای دیگری می‌برند.
هوش مصنوعی هنوز بسیار جوان و مستعد اشتباهات زیاد است. با این حال، هر چقدر که مخاطرات بالا باشد، باید انتظار داشته باشیم که بسیاری از سازمان‌های تجاری بدون درک کامل خطرات احتمالی، هوش مصنوعی را به کار بگیرند.
وجود ریسک‌های قانونی
دولت فدرال ایالات متحده خود را آماده می‌کند تا چالش‌های اجتماعی مرتبط با ظهور هوش مصنوعی را برطرف کند. در سال ۲۰۲۲، دولت بایدن از طرح خود برای منشور حقوق هوش مصنوعی برای محافظت از حریم خصوصی و آزادی‌های مدنی رونمایی کرد.
در سال ۲۰۲۳، مؤسسه ملی استانداردها و فناوری چارچوب مدیریت ریسک هوش مصنوعی خود را برای کمک به هیئت مدیره شرکت‌ها و سایر رهبران سازمانی برای رسیدگی به خطرات هوش مصنوعی منتشر کرد.
همچنین، حداقل ۱۷ ایالت در آمریکا تنها در سال ۲۰۲۲ قوانینی را برای تنظیم هوش مصنوعی معرفی خواهند کرد که شناسایی چهره را هدف قرار می‌دهد. در نهایت برای شرکت‌های چندملیتی، قانون هوش مصنوعی پیشنهادی اتحادیه اروپا با هدف ممنوعیت یا تعدیل شناسایی بیومتریک، دستکاری روانی، بهره‌برداری از گروه‌های آسیب‌پذیر و امتیازدهی اعتبار اجتماعی است. براساس گزارش‌های موجود، احتمالا قوانین جدیدی در این باره در سال ۲۰۲۳ در راه است.
خطرات مرتبط با توسعه سریع فناوری هوش مصنوعی
آخرین خطر حوزه هوش مصنوعی مربوط به سواستفاده از اطلاعات کاربران است. به‌عنوان مثال کارمندان سامسونگ اخیرا از ChatGPT استفاده کردند و اسرار تجاری آن‌ها فاش شد.
از سوی دیگر ChatGPT شناخته‌شده‌ترین نمونه هوش مصنوعی پیشرفته امروزی است و همه دنیا هر روز آن را آزمایش کرده و کاستی‌های آن را گزارش می‌کنند. در همین راستا بسیاری از غول‌های فناوری دنیا درصدد توسعه هوش مصنوعی مختص به خود برآمده‌اند. اما اگر کاستی‌های هوش مصنوعی دیده نشده و مشکلات آن برطرف نشود، ممکن است باعث به‌وجودآمدن مشکلات زیادی برای تولیدکنندگان و کاربران شود.
در نهایت باید گفت که استفاده از هوش مصنوعی می‌تواند باعث بهبود فرآیند طراحی و افزایش کیفیت محصولات و ارتباطات باشد. با این حال، برای استفاده از هوش مصنوعی، باید مشکلات مربوط به حفظ حریم خصوصی و اطلاعات شخصی و اثرات احتمالی آن بر بازار کار و اجتماع را در نظر گرفت. بنابراین برای استفاده موثر از هوش مصنوعی، نیاز است که با مراقبت و احتیاط به کار گرفته شود.