حفظ حریم خصوصی در عصر هوش مصنوعی ضروری است

به گزارش خبرگزاری صدا و سیما؛ سید رضا حسینی با تأکید بر اینکه ساحت علمی و فناورانه در سند تحول بنیادین صرفاً به معنای انتقال محفوظات علمی به دانش‌آموزان نیست، گفت: هدف این ساحت، تربیت دانش‌آموزانی است که دانش را کسب کنند، آن را نقد و تحلیل کنند، برای مسائل واقعی جامعه راه‌حل بیابند و فناوری را با شناخت پیامد‌های آن به کار بگیرند.

حسینی در دومین روز از گردهمایی تخصصی مدیران سازمان دانش‌آموزی، با اشاره به اهمیت روزافزون علم و فناوری در جهان، اظهار کرد: امروز فناوری به یکی از مؤلفه‌های اصلی قدرت کشور‌ها تبدیل شده است و هرچه در این حوزه سرمایه‌گذاری و برنامه‌ریزی دقیق‌تری داشته باشیم، آثار آن را در آینده کشور بیشتر خواهیم دید.

رئیس باشگاه دانش‌پژوهان جوان افزود: وقتی در سند تحول بنیادین درباره ساحت علمی و فناورانه صحبت می‌کنیم، منظور این نیست که دانش‌آموز صرفاً مخزنی از داده‌ها و محفوظات باشد؛ بلکه باید دانش‌آموز بتواند علم را بفهمد، درباره آن پرسش کند، آن را نقد کند، به کار بگیرد و در مسیر حل مسائل جامعه از آن استفاده کند.

حسینی با بیان اینکه علم و فناوری هم می‌تواند در مسیر مثبت و هم در مسیر منفی مورد استفاده قرار گیرد، گفت: نمونه‌های متعددی در دنیا وجود دارد که نشان می‌دهد فناوری چگونه می‌تواند به حل مسائل کمک کند یا در صورت استفاده نادرست، پیامد‌های جدی به دنبال داشته باشد.

رئیس باشگاه دانش‌پژوهان جوان ادامه داد: در حوزه پیش‌بینی شیوع بیماری‌ها، استفاده از الگوریتم‌های یادگیری ماشین توانسته است با تحلیل داده‌ها و الگو‌های موجود، هشدار‌هایی درباره احتمال شیوع بیماری‌ها ارائه دهد. این نمونه‌ای از کاربرد مثبت فناوری در خدمت انسان است؛ اما در مقابل، مواردی نیز وجود دارد که خطا‌های فناوری، هزینه‌های سنگینی ایجاد کرده است.

وی افزود: بنابراین، فناوری به خودی خود نه خوب است و نه بد؛ مسئله مهم، نوع استفاده انسان از آن، میزان شناخت او از پیامد‌ها و مسئولیتی است که در قبال استفاده از فناوری دارد.

دانش‌آموز باید شایستگی علمی و فناورانه کسب کند

حسینی نخستین محور ساحت علمی و فناورانه را کسب شایستگی علمی و فناورانه دانست و گفت: دانش‌آموز باید دانش و مهارت را کسب کند و در کنار آن، نگرش‌ها و ارزش‌های لازم برای استفاده صحیح از علم را نیز بیاموزد.

وی با اشاره به تفاوت میان کاربرد‌های مختلف علم و فناوری اظهار کرد: یک دانش علمی می‌تواند در مسیر ساخت فناوری‌هایی برای آسیب‌رساندن به انسان استفاده شود و همان دانش می‌تواند در پزشکی و درمان، جان انسان‌ها را نجات دهد. بنابراین، دانش‌آموز باید علاوه بر «دانستن»، نحوه استفاده درست از دانسته‌های خود و پیامد‌های آن را نیز بشناسد.

رئیس باشگاه دانش‌پژوهان جوان، تفکر علمی و منطقی را دومین محور مهم این ساحت عنوان کرد و گفت: دانش‌آموز باید پرسشگر باشد و توانایی استدلال، نقد و بررسی داشته باشد. گاهی نظام آموزشی به سمتی می‌رود که دانش‌آموز به مخزنی از داده‌ها تبدیل می‌شود؛ یعنی حجم زیادی از اطلاعات را می‌داند، اما پرسشگری، نقد و استدلال در او به اندازه کافی شکل نگرفته است. این مسئله خطرناک است، زیرا دانش‌آموزی که سؤال نمی‌پرسد و نمی‌تواند اطلاعات را ارزیابی کند، در آینده نیز نمی‌تواند فردی اثرگذار در حل مسائل کشور باشد.

وی برای تبیین این موضوع به نمونه‌ای از کاربرد نادرست هوش مصنوعی در یک پرونده حقوقی اشاره کرد و گفت: در نمونه‌ای، وکیلی باتجربه برای تهیه دفاعیه از هوش مصنوعی استفاده کرد و این سامانه چند پرونده مشابه را به او معرفی کرد؛ اما پس از بررسی مشخص شد چنین پرونده‌هایی اساساً وجود خارجی نداشته‌اند. این اتفاق نشان می‌دهد حتی در مواجهه با فناوری‌های پیشرفته نیز انسان باید پرسشگر و نقاد باشد و هر داده‌ای را بدون بررسی نپذیرد.

علم باید برای فهم جهان و حل مسائل واقعی به کار گرفته شود

حسینی سومین محور را استفاده از علم برای فهم جهان و حل مسائل واقعی دانست و گفت: علم نباید صرفاً برای امتحان و کسب نمره آموخته شود؛ دانش‌آموز باید بتواند آموخته‌های خود را در زندگی واقعی به کار بگیرد.

وی ادامه داد: اگر معلم مفهوم «راندمان» را آموزش می‌دهد، می‌توان از دانش‌آموز پرسید که جایگزینی لامپ‌های قدیمی با لامپ‌های کم‌مصرف چه تأثیری بر میزان مصرف انرژی و کاهش خاموشی‌ها خواهد داشت. این نوع آموزش، دانش‌آموز را با محیط واقعی پیرامون خود درگیر می‌کند و نسبت به مسائل جامعه دغدغه‌مند می‌سازد.

رئیس باشگاه دانش‌پژوهان جوان افزود: ممکن است دانش‌آموزی در المپیاد مدال طلا کسب کند، اما در مواجهه با مسائل واقعی زندگی و جامعه با چالش مواجه شود. هدف ساحت علمی و فناورانه این است که دانش‌آموز بتواند مسئله را شناسایی کند، درباره آن بیندیشد و برای حل آن راه‌حل ارائه دهد.

تقویت خلاقیت، نوآوری و حل مسئله

حسینی، تقویت خلاقیت، نوآوری و مهارت حل مسئله را از دیگر الزامات این ساحت دانست و اظهار کرد: باید دانش‌آموزان را به سمت راه‌حل‌های خلاقانه هدایت کنیم و نسبت به ایده‌های جدید مقاومت نداشته باشیم.

وی با اشاره به روند شکل‌گیری و توسعه فناوری‌های نوین، به‌ویژه هوش مصنوعی، گفت: بسیاری از فناوری‌هایی که امروز در اختیار بشر قرار دارند، حاصل سال‌ها ایده‌پردازی، خلاقیت و تلاش افرادی هستند که در دوره‌هایی حتی با این تصور مواجه بودند که ایده آنها عملی نخواهد شد.

هوش مصنوعی؛ ظرفیت بزرگ و در عین حال نیازمند مراقبت

رئیس باشگاه دانش‌پژوهان جوان با بیان اینکه هوش مصنوعی امروز به نماد مهم فناوری تبدیل شده است، گفت: هوش مصنوعی ظرفیت فوق‌العاده‌ای برای ایجاد تحول در آموزش و پرورش دارد، اما در کنار فرصت‌های آن، چالش‌های جدی نیز وجود دارد که باید نسبت به آنها آگاه باشیم.

حسینی یکی از این چالش‌ها را تولید اطلاعات نادرست یا به اصطلاح «توهم» هوش مصنوعی عنوان کرد و افزود: گاهی هوش مصنوعی اطلاعاتی را با اطمینان ارائه می‌کند که اساساً درست نیست. این مسئله در تولید مقالات علمی و ارائه منابع جعلی نیز دیده شده است و نشان می‌دهد که نباید خروجی هوش مصنوعی را بدون بررسی پذیرفت.

وی «سوگیری داده‌ها» را از دیگر چالش‌های هوش مصنوعی دانست و گفت: اگر داده‌هایی که یک سامانه هوش مصنوعی بر اساس آنها آموزش دیده، دارای سوگیری باشند، خروجی سامانه نیز می‌تواند دچار سوگیری شود. نمونه‌هایی از این مسئله در فرآیند‌های استخدامی و حتی برخی سامانه‌های مورد استفاده در نظام قضایی کشور‌های مختلف مشاهده شده است.

حفظ حریم خصوصی در عصر هوش مصنوعی ضروری است

حسینی با تأکید بر اهمیت حریم خصوصی و امنیت داده‌ها اظهار کرد: امروز بسیاری از ما به سادگی اطلاعات، متن، تصویر و مسائل شخصی خود را در اختیار سامانه‌های هوش مصنوعی قرار می‌دهیم، در حالی که باید نسبت به نحوه استفاده از این داده‌ها و پیامد‌های آن آگاه باشیم.

وی افزود: هرچه استفاده از هوش مصنوعی گسترده‌تر می‌شود، فرهنگ استفاده صحیح و مسئولانه از این فناوری نیز باید هم‌زمان رشد کند. اگر سرعت توسعه فناوری از رشد سواد و فرهنگ استفاده از آن بیشتر باشد، ممکن است وابستگی و استفاده نادرست از فناوری به یک چالش جدی تبدیل شود.

هوش مصنوعی می‌تواند آموزش را شخصی‌سازی کند

رئیس باشگاه دانش‌پژوهان جوان با اشاره به ظرفیت هوش مصنوعی در آموزش گفت: در دنیا نمونه‌هایی وجود دارد که از هوش مصنوعی برای شناسایی نقاط ضعف دانش‌آموز، تعیین سطح سؤال‌ها، ارائه تمرین‌های متناسب و تنظیم مسیر یادگیری استفاده می‌شود.

حسینی تصریح کرد: موج هوش مصنوعی به آموزش و پرورش ایران نیز رسیده است و باید به جای نادیده گرفتن آن، برای استفاده صحیح، هدفمند و مسئولانه از این ظرفیت برنامه‌ریزی کنیم.

وی خاطرنشان کرد: اگر هوش مصنوعی به‌درستی مورد استفاده قرار گیرد، می‌تواند تحول جدی در آموزش و پرورش و فرآیند تعلیم و تربیت ایجاد کند؛ البته این تحول زمانی اتفاق می‌افتد که دانش‌آموز در کنار استفاده از فناوری، مهارت پرسشگری، تفکر نقاد، خلاقیت، حل مسئله و توجه به پیامد‌های اخلاقی و اجتماعی فناوری را نیز فرا بگیرد.