أخبار

تشارك الشركات الناشئة في اختراق مشاريع الذكاء الاصطناعي الأمريكية - تسربت التكنولوجيا العسكرية

في الصيف الماضي ، كانت هناك غرفة خالية من النوافذ في مكتب شركة مانهاتان للكشف عن الذكاء الاصطناعي ، وكانت هناك لافتة معلقة على الباب ، وفقا لثلاثة أشخاص رأوا الإشارة ، قال: "إنها سرية. الأرض ممنوعة من الدخول.

إن هذا الإخطار مزحة ، وهو يعني في الواقع أنه في شركة Clarifai ، يُحظر على الموظفين في هذا الفريق الصغير مناقشة العمل مع الآخرين ، ويقول الموظفون المغادرون والموظفون الحاليون إن الفريق مشغول بتطوير مشروع مثير للجدل في البنتاغون. يستخدم هذا المشروع خوارزمية تعلم الآلة لقراءة صور مراقبة الطائرات بدون طيار ، ولم يصل الأمن السري لكلارفاي إلى المستوى المناسب ، حيث ذكرت الموظفة السابقة إيمي ليو في الدعوى المرفوعة هذا الشهر أن نظام الكمبيوتر في Clarifai إذا تعرض المرء للتهديد من قبل فرد أو أكثر في روسيا ، فمن المحتمل أنه سيسرب التكنولوجيا المستخدمة من قبل الجيش الأمريكي لمهاجمة العدو.

وتزعم الدعوى القضائية أن "كلاراي" قد اكتشفت الثغرة في نوفمبر من العام الماضي ، لكن المدير التنفيذي للشركة وغيرهم من كبار المسؤولين التنفيذيين لم يبلغوا الأمر على الفور إلى البنتاغون ، وقد عملت في شكوى أمام قسم الاستخبارات العسكرية. قالت نقيب القوات الجوية ليو إنها تعرضت للإقالة غير العادلة لأنها تعتقد أن الشركة بحاجة إلى الإبلاغ عن الحادث علنا ​​، وقبل أن يتم طردها ، كانت رئيسة قسم التسويق في الشركة.

قال موظف سابق آخر لمجلة وايرد إنه قلق للغاية من عدم مبالاة المسؤولين التنفيذيين بالقرصنة وقرروا ترك الشركة.

وقد قال جميع موظفي الشركة السابقين والحاليين إن كلاريفاي تعمل على مشروع يدعى Project Maven ، وقد أطلق البنتاغون هذا المشروع بهدف إضافة معلومات استخباراتية مصطنعة إلى الجيش الأمريكي ، وقد تسبب المشروع في إثارة الانشقاق داخل Google ، كما أن غوغل تم تنفيذ مشروع مماثل للطائرات بدون طيار ، ثم وقع موظفو الشركة البالغ عددهم 4500 شخص احتجاجًا مشتركًا قالوا إنهم لا يريدون أن تصبح تقنية Google الذكية شريكًا في القتل للجيش الأمريكي ، مما دفع الشركة إلى نشر استخدام تكنولوجيا الذكاء الاصطناعي في وقت لاحق. مدونة الأخلاق ، ووعد بعدم التجديد بعد انقضاء العام المقبل.

ورفض Clarifai الإجابة عما إذا كان قد شارك في مشروع Maven ، وذكر متحدث باسم الشركة أن الحادث الذي يتضمن الحادث الأمني ​​هو "إنسان آلي غير مستهدف" يصيب خادم أبحاث لا يمكنه الوصول إلى أي بيانات أو تعليمات برمجية. وقال إن الشركة أبلغت العميل عن الحادث ولكنها رفضت الكشف عن موعد إبلاغ الشركة للعميل ، أو ما إذا كان البنتاغون قد أبلغ بالوضع.

تم تأسيس Clarifai في عام 2013 من قبل ماثيو زيلر ، وهو دكتوراه ، والذي درس تعلم الآلة مع الأساتذة ، وأصبح فيما بعد باحثًا في مجال الذكاء الاصطناعي على Google و Facebook ، حيث تزوّد الشركة الناشئة الشركات بقدرات التعرف على الصور. يمكن للخدمات إنجاز مهام مثل تحديد المشاهير والطعام ، وقالت السيدة ليو إنها تفهم لماذا يحتاج الجيش الأمريكي إلى توسيع استخدام تكنولوجيا الذكاء الاصطناعي ، وقالت أيضًا إن عدم وضوح الشفافية والضمانات الأمنية في شركة Clarifai جعل الشركة أقل ملاءمة لأن تصبح من البنتاغون. قال مساعد ليو: "إذا انسحبت جوجل الآن من السوق ، يمكنهم فقط اختيار شركات مثل Clarifai. هذا أمر محزن ومخيخ".

وردا على سؤال حول منهجها في تطوير تقنية الذكاء الاصطناعي ، ذكر متحدث باسم القيم الأساسية لـ Clarifai على موقعهم على الإنترنت ، ووصفوا الشركة بأنها مدفوعة من خلال مهمتنا باستمرار لتحسين الذكاء الاصطناعي. لتسريع تقدم البشرية ". قالت السيدة ليو إنه عندما ساعدت في صياغة عقد كلريفاي لمشروع مافين في يونيو 2017 ، تم اختيارها للمشاركة في العمل العسكري لكلاريفاي.

وتعتقد هذه المقالة أن التكنولوجيا التي طورتها Clarifai للعملاء التجاريين يمكن استخدامها للقيام بأشياء معينة ، مثل اكتشاف وحساب السيارات والأشخاص الذين يظهرون في صور الطائرات بدون طيار ، وقالت السيدة ليو إن Clarifai وقعت على الموعد النهائي في الصيف الماضي. 6 أشهر بقيمة 7 ملايين دولار ، مثل شركة Google ، كانت Clarifai أيضاً متعاقدة من الباطن مع ECS Federal ، وهي شركة مقاولات في مجال تكنولوجيا المعلومات مقرها في Fairfax، VA.

كان عقد الفوز بمشروع Maven نصرا عظيما لكلاريفاى ، حيث أظهرت وثيقة داخلية بدءا من نهاية عام 2017 أن معظم آفاق التداول في الشركة كانت أقل من 100000 دولار.

ومع ذلك ، قالت السيدة ليو وآخرون على دراية بالمشروع إن المديرين التنفيذيين أخفوا حقيقة أن شركة كرافت شاركوا في العمل العسكري ، ووصف المشروع بأنه عقد حكومي يمكن أن ينقذ أرواح الناس. في البداية ، لم يتم إبلاغهم بأن تكنولوجيا المراقبة التي بنوها كانت للجيش.

ذكر الموظفون الحاليون والموظفون السابقون أن حوالي 10 أشخاص في Clarifai يعملون في إدارة مشروع Maven ، وتم وضع علامة على حلقات العمل الخاصة بهم في وقت لاحق على أنها "سرية" ، وبالنسبة لبعض الأشخاص ، فإن الغرض من هذا المشروع هو فقط وزار موظفو الجيش العسكري مكتب كلريفاي لمناقشة النظام الجاري إعداده قبل التمكن من إثباته بشكل كامل.وقال المتحدث باسم شركة Clarifai أن الشركة قد ضمنت أن الموظفين يعرفون ما يقومون به.

وفقًا لتقرير الحوادث الأصلي الذي نشرته مجلة Wired ، في أوائل شهر نوفمبر ، تم إبلاغ Clarifai من قِبل مزود خدمة الإنترنت Cogent بأن أحد خوادم الشركة بدا وكأنه يهاجم جامعة إنديانا ، وذكر التقرير أن رمز الشركة و قد تكون بيانات اعتماد حساب Amazon Web Services عرضة للاختراق ، ويبدو أن البرامج الضارة التي تسببت في ذلك قد نشأت من جهاز كمبيوتر روسي ، وقد ذكر متحدث باسم Clarifai أن التحقيق الذي أجرته الشركة قد خلص إلى أنه لم يتم اختراق بيانات الشركة ولا الشفرة. تأثير.

في محادثة تمت مراجعتها من قبل مجلة Wired في 7 نوفمبر ، قال الرئيس التنفيذي للشركة ، Zeller ، أن البرمجيات الخبيثة تحاول ربط أجهزة الكمبيوتر في جميع أنحاء العالم ، بما في ذلك أجهزة الكمبيوتر التابعة للحكومة الأمريكية. كتب زيلر: "مثير للاهتمام. أحدهما هو مركز معلومات شبكة وزارة الدفاع."

قالت السيدة ليو في اليوم التالي أنها سمعت من موظفين آخرين أن الشركة قد تعرضت للقرصنة ، ولكن بعد فترة ليست طويلة من ذلك ، اشتكت من أن كارولين ماكافوي ، المحامية العامة لكلاريفاي ، أخبرتها عبر رسالة سلاك أنها كانت في غرفة المرافق. اجتماعات.

هناك ، وصفت ماكفارتي بالتفصيل فهم المسؤولين التنفيذيين لهجوم القرصنة وطلبت المساعدة في تخطيط الأخبار الداخلية عن الحادث ، وقالت إنها كانت قلقة بشأن البنتاغون ، وربما عملاء الشركات الآخرين ، تم إبلاغها ، ولكن McCaffrey ذكر أنها كانت زائدة عن الحاجة حتى يتم الانتهاء من التحقيق الداخلي.

وقد قال كل من الموظفين السابقين والموظفين الحاليين في وقت لاحق من نفس اليوم ، إن ماكفرتي أعلنت في اجتماع الشركة أنه لم يُسمح بتسجيل أي حادث اختراق ، وفي دعوتها ، قالت السيدة ليو إنها كانت معها. وفي الاجتماع التالي للمدير ، أشار إلى الجدول الزمني للإبلاغ عن حادث القرصنة أمام الحكومة ، ثم تم طردها بعد بضعة أيام.

وذكر موظف سابق وموظف حالي أن الشركة لم تكشف عن الحادث إلى البنتاغون في غضون بضعة أسابيع ، وذكر متحدث باسم الشركة أن عملاء الشركة تلقوا إشعارًا بالحادث ولكنهم رفضوا الإفصاح عن الموعد. وذكرت شكوى المرأة أن البنتاغون قد فهمت الواقعة بطرق أخرى ، لكن هي ومحاموها رفضوا توضيحها.

وقالت السيدة ليو إنها قيل لها إنها طردت لأن وظيفتها لا تتفق مع فريق المبيعات في كلريفاي ، حيث زعمت دعوتها القضائية أن السبب الحقيقي وراء إطلاقها هو أنها حثت الشركة على إبلاغ البنتاغون بالحادث.

وقدمت شكواها إلى وزارة الدفاع المفتش العام، مدعيا الشركة انتهكت أحكام Clarifai البنتاغون، لم تبلغ تسرب خلال 72 ساعة، وانتهاكا لهذا الحظر على محاولات لانتهاك اللوائح قسم المستخدمون العاملون لدى المتعاقدين في الكشف عن المعلومات من الانتقام القانون العسكري. المتحدث باسم Clarifai أكد أن ليو أقيل في نوفمبر من العام الماضي، ولكن نفت الشركة أي شيء غير لائق للقيام به.

وقالت مصادر مطلعة أن هذا العام في الوقت الفعلي في وقت سابق، Clarifai العقد مخضرم تمديدها لمدة شهرين، وذلك لأن وزارة الدفاع يحب التكنولوجيا الشركة. وفي ذلك الوقت، كان هناك عدد قليل من الموظفين مغادرة أو أن تسند إلى المشروع.

ولا تزال "كلريفاي" ، التي لديها مكاتب في كل من مانهاتن وسان فرانسيسكو ، تناضل من أجل توسيع عمل الحكومة والدوائر الدفاعية ، ويرجع ذلك جزئياً إلى توظيفها موظفين جدد أقرب إلى البنتاغون. موقف مهندس مفتوح.

2016 GoodChinaBrand | ICP: 12011751 | China Exports