امروزه با گسترش فناوری‌های هوش مصنوعی و دسترسی سریع و آسان به آنها، دانشجویان و کارکنان تازه‌کار، هر چه بیشتر برای یافتن پاسخ پرسش‌های متنوع خود به چت‌بات‌ها روی آورده‌اند.
این گرایش هر چند مزایای فراوانی با خود دارد، اما موجب بروز برخی نگرانی‌ها از جمله درباره کاهش مهارت‌های ارتباطی و یادگیری ناقص شده است.

پیامدهای نامناسب استفاده از چت‌بات‌ها در نظام آموزشی

کارشناسان، برخی از چالش‌های استفاده مداوم از سیستم‌های هوش مصنوعی برای یافتن پاسخ‌ها را چنین برشمرده‌اند:

- فقدان بازخورد سازنده: چت‌بات‌ها با وجود توانایی ارائه پاسخ‌های سریع، فعلا نمی‌توانند همانند مربیان انسانی، پاسخ‌های تحلیلی و راهنمایی‌های متناسب و شخصی‌شده ارائه دهند.
پروفسور دیوید مالان از دانشگاه هاروارد در این خصوص اشاره می‌کند که دانشجویان، چت‌بات‌ها را به دلیل صبر بی‌پایان و عدم قضاوت ترجیح می‌دهند، هرچند این ویژگی‌ها نمی‌توانند به یادگیری عمیق منجر شوند.

- احتمال افزایش سوگیری‌ها: به نظر کارشناسان، چت‌بات‌ها عموما مطابق میل و نظر کاربران پاسخ می‌دهند، به جای آنکه در مواقع لزوم، دیدگاه کاربران را به چالش بکشند.
دکتر زیانگ شیائو از دانشگاه جانز هاپکینز معتقد است: «چت‌بات‌ها با هر نوع طراحی، عموما پاسخ‌هایی ارائه می‌دهند که از نظرات پرسش‌کنندگان، تاثیر پذیرفته است.»

- بی‌توجهی به فرصت‌های مناسب شبکه‌سازی: جولیا فریلند فیشر، پژوهشگر آموزش، در این خصوص معتقد است که اتکای بیش از حد به چت‌بات‌ها می‌تواند به از دست دادن فرصت‌های ارتباطی ارزشمند منجر گردد.
این در حالیست که بر طبق تحقیقات، حدود ۵۰٪ از موقعیت‌های شغلی عمدتا از طریق پیوستن به شبکه‌های غیررسمی ایجاد و تقویت می‌شود، در حالی که این موضوع در استفاده از چت‌بات‌ها منتفی است.

- نادیده گرفتن نقش مربیان انسانی: پروفسور ژان رودز، روانشناس دانشگاه ماساچوست، اعتقاد دارد که هوش مصنوعی در ایجاد حس تعلق و هدایت ارتباطات پیچیده، توانایی چندانی ندارد.
همچنین کریس هس، مدیر استراتژی هوش مصنوعی در پیرسون، معتقد است که گرایش دانشجویان به استفاده از چت‌بات‌ها، هشداری به نظام آموزشی است که ممکن است کیفیت تعاملات استاد-دانشجو را دچار ضعف کند.

لزوم ایجاد تعادل میان استفاده از چت‌بات‌ها و ارتباط انسانی

به عقیده کارشناسان، یا وجود آنکه چت‌بات‌های مبتنی بر سیستم‌های هوش مصنوعی، قادرند دسترسی دموکراتیک‌تری به اطلاعات فراهم کنند، اما بعید است بتوانند جای مربیان انسانی را بگیرند.
به عقیده این صاحبنظران، برای موفقیت در پرورش نیروی کار مناسب و کارآ در آینده، باید درصدد استفاده همزمان از کارایی هوش مصنوعی، و نیز راهنمایی‌های شخصی‌شده بود.