الذكاء الاصطناعي الذي يكتشف السرطان قابل للخداع

كشفت دراسة جديدة أن برامج الذكاء الاصطناعي التي تتحقق من الصور الطبية بحثًا عن أدلة على الإصابة بالسرطان يمكن خداعها من خلال الاختراق والهجمات الإلكترونية.

وأظهر الباحثون أن برنامج الحاسب يمكن أن يضيف أو يزيل أدلة على السرطان من تصوير الأشعة السينية. وخدعت هذه التغييرات كلاً من أداة الذكاء الاصطناعي وأخصائيي الأشعة البشرية.

ويؤدي ذلك إلى تشخيص غير صحيح. وقد يقول برنامج الذكاء الاصطناعي الذي يساعد في فحص الصور الشعاعية أن الفحص صحي عندما تكون هناك علامات على الإصابة بالسرطان أو يقول بشكل غير صحيح أن المريض مصاب بالسرطان عندما يكون خاليًا من السرطان.

ومن غير المعروف حدوث مثل هذه الاختراقات في العالم الحقيقي حتى الآن. ولكن الدراسة الجديدة تضيف إلى مجموعة متزايدة من الأبحاث التي تشير إلى أن مؤسسات الرعاية الصحية بحاجة إلى الاستعداد لها.

ويستهدف المتسللون المستشفيات ومؤسسات الرعاية الصحية بشكل متزايد بهجمات إلكترونية. وتسرق هذه الهجمات في معظم الأحيان بيانات المرضى أو تغلق أنظمة الحاسب الخاصة بالمؤسسة حتى تدفع تلك المؤسسات فدية.

ويمكن أن يؤذي هذان النوعان من الهجمات المرضى عن طريق التلاعب بالعمليات في المستشفى وتجعل من الصعب على العاملين في مجال الرعاية الصحية تقديم رعاية جيدة.

ولكن الخبراء يتزايد قلقهم أيضًا بشأن احتمال وقوع المزيد من الهجمات المباشرة على صحة الناس.

وأظهر باحثو الأمن أن المتسللين يمكنهم اقتحام مضخات الأنسولين المتصلة بالإنترنت عن بعد وتقديم جرعات خطيرة من الدواء، على سبيل المثال.

وتقع الاختراقات التي يمكنها تغيير الصور الطبية والتأثير في التشخيص ضمن هذه الفئة أيضًا.

وصمم فريق بحثي من جامعة بيتسبرغ برنامج حاسب من شأنه أن يجعل عمليات التصوير بالأشعة السينية الخالية من علامات السرطان تبدو وكأنها سرطانية. كما من شأنه أن يجعل الصور الشعاعية التي تبدو سرطانية لا تظهر عليها علامات السرطان.

وقدموا الصور التي تم التلاعب بها إلى برنامج ذكاء اصطناعي مدرب على اكتشاف علامات سرطان الثدي. وطلبوا من خمسة من أخصائيي الأشعة أن يقرروا ما إذا كانت الصور حقيقية أم مزيفة.

الذكاء الاصطناعي قابل للخداع عبر الصور المخترقة

استطاعت نحو 70 في المئة من الصور التي تم التلاعب بها خداع هذا البرنامج. أي أن الذكاء الاصطناعي قال خطأ إن الصور التي تم التلاعب بها لتبدو خالية من السرطان كانت خالية من السرطان. كما قال إن الصور التي تم التلاعب بها لتبدو وكأنها مصابة بالسرطان لديها دليل على الإصابة بالسرطان.

أما بالنسبة لأخصائيي الأشعة، فقد كان بعضهم أفضل من غيرهم في اكتشاف الصور التي تم التلاعب بها. وتراوحت الدقة في انتقاء الصور المزيفة بين 29 في المئة و 71 في المئة.

وأظهرت دراسات أخرى أيضًا احتمال أن يؤدي الهجوم الإلكتروني على الصور الطبية إلى تشخيصات غير صحيحة. وأظهر فريق من الباحثين في مجال الأمن السيبراني في عام 2019 أن المتسللين يمكنهم إضافة أو إزالة دليل على سرطان الرئة من الأشعة المقطعية. وخدعت هذه التغييرات أيضًا كلاً من أخصائيي الأشعة البشرية وبرامج الذكاء الاصطناعي.

ولم تكن هناك حالات عامة أو بارزة حدث فيها اختراق كهذا. ولكن هناك بعض الأسباب التي قد تجعل المخترق يريد التلاعب بأشياء مثل تصوير الأشعة السينية أو فحوصات سرطان الرئة.

وقد يكون المتسلل مهتمًا باستهداف مريض معين، مثل شخصية سياسية. أو قد يرغب في تغيير عمليات الفحص الخاصة به للحصول على أموال من شركة التأمين.

كما قد يتلاعب المتسللون أيضًا بالصور بشكل عشوائي ويرفضون التوقف عن العبث بها حتى يدفع المستشفى فدية.

وتظهر دراسات مثل هذه أن مؤسسات الرعاية الصحية والأشخاص الذين يصممون نماذج الذكاء الاصطناعي يجب أن يكونوا على دراية بأن الاختراق الذي يغير عمليات المسح الطبي أمر محتمل.

وقال مؤلف الدراسة إنه يجب عرض النماذج التي تم التلاعب بها أثناء تدريبهم لتعليمهم اكتشاف الصور المزيفة. وقد يحتاج اختصاصيو الأشعة أيضًا إلى التدريب على تحديد الصور المزيفة.