وقتی نوشتار مقاله و داوری آن با هوش مصنوعی انجام می‌شود/۲ اصل اخلاقی استفاده از هوش مصنوعی

دکتر شاهین آخوندزاده در نشست معرفی رویداد مساله محور هوش مصنوعی در سلامت که از صبح امروز در بیمارستان سینا برگزار شد، با اشاره به گسترش سریع هوش مصنوعی در جهان، اظهار کرد: این فناوری با سرعت زیادی در حال فراگیر شدن است و اگر برای مواجهه با آن تدبیر نکنیم، به‌ویژه در حوزه پزشکی که دامنه خدمات آن بسیار گسترده و متنوع است، با چالش‌های جدی مواجه خواهیم شد.

وی افزود: حتی اگر نتوانیم در زمینه تولید دانش هوش مصنوعی با کشور‌های پیشرو رقابت کنیم، باید دست کم به عنوان کاربران این فناوری با چارچوب‌ها، مقررات و الزامات اخلاقی آن آشنا باشیم. این موضوع به ویژه در حوزه پژوهش اهمیت دارد و لازم است استفاده از هوش مصنوعی در تحقیقات پزشکی با شناخت کافی از ملاحظات اخلاقی و قانونی صورت گیرد.

معاون تحقیقات و فناوری وزیر بهداشت با اشاره به سرمایه‌گذاری کشور‌های منطقه در حوزه هوش مصنوعی، خاطرنشان کرد: اخیراً وزیر آموزش عالی در همایشی درباره اخلاق هوش مصنوعی در عربستان سعودی حضور داشت. در این کشور، برنامه‌ای با مسئولیت یکی از شاهزادگان سعودی در حال اجرا است که بودجه سالانه آن ۱.۵ میلیارد دلار اعلام شده و دولت عربستان نیز تعهد سرمایه‌گذاری ۱۵۰ میلیارد دلاری در این حوزه را داده است.

آخوندزاده ادامه داد: وقتی حجم این سرمایه‌گذاری‌ها را با آنچه در کشور برای توسعه هوش مصنوعی در نظر گرفته‌ایم مقایسه می‌کنیم، این پرسش مطرح می‌شود که چگونه می‌توانیم با کشور‌های منطقه رقابت کنیم. این ارقام نشان می‌دهد که برای مواجهه با تحولات این حوزه باید برنامه‌ریزی جدی‌تری داشته باشیم.

وی با تأکید بر ضرورت توجه جامعه دانشگاهی به هوش مصنوعی، اظهار کرد: ما در حوزه تحقیقات فعالیت می‌کنیم و همکارانی نیز سال‌ها مسئولیت‌هایی در این زمینه داشته‌اند؛ بنابراین، نمی‌توانیم این فناوری را نادیده بگیریم. هوش مصنوعی وارد عرصه پژوهش شده است و باید یاد بگیریم چگونه در چارچوب‌های اخلاقی و قانونی از آن استفاده کنیم.

معاون تحقیقات و فناوری وزیر بهداشت با اشاره به تجربه ورود فناوری‌های جدید به محیط‌های دانشگاهی ادامه داد: زمانی که رایانه وارد محیط‌های آموزشی و پژوهشی شد، بسیاری از افراد همچنان با دستگاه تایپ کار می‌کردند. من به یاد دارم که در همان دوره، پایان‌نامه‌ام را با رایانه ۲۸۶ تایپ کردم. در آن زمان نیز این دیدگاه مطرح بود که برای یادگیری رایانه باید از نسل جوان‌تر کمک گرفت. امروز نیز شرایط مشابهی در زمینه هوش مصنوعی وجود دارد؛ دانشجویان ما در استفاده از این فناوری در بسیاری از موارد از استادان دانشگاه جلوتر هستند. از این رو، ما نیز به‌عنوان اعضای هیئت علمی و معلمان دانشگاه باید دانش و مهارت‌های خود را به‌روز کنیم تا از تحولات این حوزه عقب نمانیم.

آخوندزاده با اشاره به کاربرد‌های هوش مصنوعی در فرایند پژوهش با تاکید بر اینکه این فناوری می‌تواند در شکل‌گیری ایده‌های پژوهشی، مرور متون علمی، طراحی مطالعه و ویرایش مقالات و پروپوزال‌ها به پژوهشگران کمک کند، افزود: در حال حاضر، در برخی موارد مشاهده می‌کنیم که پروپوزال‌های پژوهشی به طور کامل با استفاده از هوش مصنوعی تهیه می‌شوند. همچنین، برخی پژوهشگرانی که پیش‌تر تعداد محدودی طرح تحقیقاتی ارائه می‌کردند، اکنون تعداد زیادی طرح پیشنهاد می‌دهند که چارچوب آنها نشان دهنده استفاده از این فناوری است. استفاده از هوش مصنوعی در این مراحل می‌تواند از نظر اخلاقی قابل قبول باشد، مشروط بر اینکه دو اصل اساسی رعایت شود؛ نخست، نظارت انسانی و حفظ مسئولیت اصلی پژوهشگر و دوم، شفافیت در اعلام نحوه استفاده از این فناوری.

معاون تحقیقات وزیر بهداشت در این زمینه توضیح داد: پژوهشگر نباید اختیار و مسئولیت خود را به هوش مصنوعی واگذار کند، بلکه باید بر فرایند کار نظارت داشته باشد. همچنین، لازم است به صورت شفاف اعلام کند که در کدام بخش‌های پژوهش از هوش مصنوعی استفاده کرده است. رعایت این دو اصل، در کنار پایبندی به چارچوب‌های اخلاقی و قانونی، برای استفاده قابل قبول از این فناوری ضروری است.

آخوندزاده با اشاره به تأثیر هوش مصنوعی بر توسعه دارو‌های جدید، اظهار کرد: این فناوری می‌تواند در طراحی و توسعه دارو‌های جدید نقش مؤثری داشته باشد و به کاهش برخی از هزینه‌های سنگین شرکت‌های داروسازی در مسیر معرفی دارو‌های جدید کمک کند. استفاده از هوش مصنوعی در خدمات پزشکی نیز زمینه‌های متنوعی دارد که از جمله آنها می‌توان به رادیولوژی، پاتولوژی و درماتولوژی اشاره کرد. همچنین، مدل‌سازی و پیش‌بینی شیوع بیماری‌ها، تحلیل داده‌های سلامت عمومی و بررسی عوامل اجتماعی مؤثر بر سلامت از دیگر حوزه‌هایی هستند که این فناوری می‌تواند در آنها به کار گرفته شود.

معاون تحقیقات وزیر بهداشت به مخاطرات استفاده از هوش مصنوعی در تحقیقات اشاره کرد و گفت: با وجود ظرفیت‌های گسترده این فناوری، در بررسی پروپوزال‌ها و مقالات علمی مشاهده می‌کنیم که هوش مصنوعی گاهی محققان را دچار «توهم» یا خطای تولید اطلاعات می‌کند و مطالبی را ارائه می‌کند که ممکن است از نظر علمی صحیح نباشند و اگر پژوهشگر بدون بررسی و ارزیابی دقیق، اطلاعات تولید شده از سوی هوش مصنوعی را بپذیرد، ممکن است در دام این خطا‌ها گرفتار شود. بنابراین، خروجی‌های این فناوری باید با دقت بررسی شوند و نمی‌توان صرفاً به دلیل ارائه یک پاسخ منسجم، آن را صحیح و قابل استناد دانست.

آخوندزاده با تأکید بر ضرورت حفاظت از اطلاعات محرمانه بیماران، اظهار کرد: هنگام استفاده از ابزار‌های هوش مصنوعی باید به محرمانگی اطلاعات پزشکی توجه جدی داشته باشیم. اطلاعات محرمانه بیماران را نمی‌توان بدون رعایت ضوابط مربوطه در اختیار این ابزار‌ها قرار داد؛ بااین‌حال، متأسفانه چنین اشتباهاتی در برخی موارد رخ می‌دهد.

وی یکی دیگر از چالش‌های استفاده از هوش مصنوعی را ایجاد سوگیری دانست و یادآور شد: این فناوری ممکن است پژوهشگر را به سمت نتیجه‌گیری یا جهت‌گیری خاصی سوق دهد. بنابراین، شناخت محدودیت‌ها و مخاطرات آن، در کنار آگاهی از ظرفیت‌هایش، برای استفاده صحیح در پژوهش‌های پزشکی ضروری است.

معاون تحقیقات وزیر بهداشت، درمان و آموزش پزشکی همچنین بر ضرورت شفافیت در استفاده از هوش مصنوعی در پژوهش‌ها تأکید کرد و ادامه داد: وزارت بهداشت استفاده از هوش مصنوعی را در چارچوب قوانین و مقررات بین‌المللی می‌پذیرد و در صورت رعایت این ضوابط، استفاده از این فناوری در فعالیت‌های پژوهشی با مشکلی مواجه نخواهد بود. شفافیت در استفاده از هوش مصنوعی و پذیرش کامل مسئولیت نتایج پژوهش از سوی محققان، از الزامات اساسی بهره‌گیری از این فناوری است.

آخوندزاده با اشاره به تغییرات ایجاد شده در فرایند تولید و ارزیابی مقالات علمی، اظهار کرد: امروز با مواردی مواجه هستیم که یک مقاله یا پروپوزال با استفاده از هوش مصنوعی نوشته می‌شود و سپس ابزار هوش مصنوعی دیگری آن را داوری می‌کند. حتی ممکن است در آینده مسئولیت تصمیم‌گیری نیز به هوش مصنوعی واگذار شود؛ موضوعی که اکنون نمونه‌هایی از آن وجود دارد. در نهایت، مقاله منتشر می‌شود و به دست خواننده می‌رسد؛ اما خواننده نیز ممکن است به‌جای مطالعه کامل متن مقاله، از هوش مصنوعی بخواهد آن را برایش خلاصه کند. این موارد بخشی از واقعیت کنونی استفاده از هوش مصنوعی در فرایند تولید، ارزیابی و مطالعه مقالات علمی است.

وی با تأکید بر ضرورت ورود استادان دانشگاه به حوزه هوش مصنوعی، گفت: تأکید من بر خودم و سایر استادان دانشگاه، به‌ویژه استادان بیمارستان سینا، این است که باید وارد این حوزه شویم و دست‌کم به‌عنوان کاربر، دانش و مهارت لازم را کسب کنیم؛ در غیر این صورت، از دانشجویان خود عقب خواهیم ماند. اگر استفاده از این فناوری به‌صورت شفاف اعلام شود و پژوهشگر مسئولیت کار خود را بپذیرد، از نظر وزارت بهداشت، استفاده از هوش مصنوعی در چارچوب ضوابط و مقررات تعیین‌شده با مانعی مواجه نخواهد بود.

معاون تحقیقات و فناوری وزیر بهداشت با ابراز امیدواری از اینکه بیمارستان سینا، همان‌طور که به عنوان قدیمی‌ترین بیمارستان ایران جایگاه مهمی در تاریخ پزشکی نوین کشور دارد، در زمینه استفاده از هوش مصنوعی و به‌کارگیری این فناوری در ارائه خدمات بیمارستانی نیز پیشگام باشد.