PRIVACY VIOLATION DETECTION AND SENSITIVITY CLASSIFICATION FOR INSTANT MESSAGING PLATFORMS

تتيح منصات المراسلة الفورية، مثل تطبيقات واتساب وسيغنال، لمستخدميها بسهولة وسرعة غير مسبوقة إمكانية إرسال رسائل تتضمن نصاً وصوراً و مقاطع فيديو. أحياناً كثيرةً تكون هذه الصور أو المقاطع ذات طابع شخصي ومقصودة للمستلم الذي تم اختياره فقط. وفي بعض من هذه الأحيان يرسل المستخدم صورة للشخص الخطأ، أو يرسل الصورة الخطأ، أو يرسل الصورة الصحيحة ولكن تكون لها خصوصية أو حساسية أكثر من ما اعتقده المستخدم. كل هذه الأمثلة تعتبر انتهاكات لتفضيلات الخصوصية الحالية للمرسل. لذلك نقترح في هذا العمل البحث في استخدام تقنيات التعلم الآلي (Machine Learning) للتعرف على تفضيلات الخصوصية الحالية للمستخدم بخصوص الصور بصورة ديناميكية وتحديثها بشكل متواصل. أي صورة سيتم تحليلها وقرنها بمجموعة من الأوصاف وتحديد مستوى حساسيتها. سيتم استخدام هذه المعلومات عن تفضيلات الخصوصية للمستخدم، مع عوامل أخرى، لتصميم "إطار عمل" يستنتج سلامة إرسال صورة معينة إلى مستلم معين من عدمه. سيتم تطوير منتج نموذجي يجسد إطار العمل هذا لهواتف الأندرويد على شكل خدمة يمكن استغلاها من أي تطبيق على الهاتف، بعد أخذ إذن المستخدم. إضافةً على ذلك، فإن تفضيلات الخصوصية للمستخدمين في الشرق الأوسط، وخاصة في منطقة الخليج، فريدة من نوعها وعادة ما يتم تمثيلها بشكل ناقص في الأبحاث. لذلك، نعتزم دراسة تفضيلات الخصوصية للمستخدمين في الكويت وتخصيص إطار العمل الخاص بنا بأوصاف إضافية للصور، مثل "غير مرتدية الحجاب"، التي تخص منطقتنا.

Instant Messaging Platforms, such as Whatsapp and Signal, offer users a convenient and fast way to send messages that include text, images, and videos. Often these images or videos are of a personal nature and are only intended to be sent to the chosen recipient. The user sometimes sends an image to the wrong recipient, send the wrong image, or send an image that is more sensitive than what the sender initially thought. All these scenarios are violations of the sender's current privacy preferences. In this work we investigate the use of machine learning techniques to dynamically learn and update the user's privacy preferences about images. Any image will be analyzed and assigned a set of labels and a sensitivity level. This knowledge of the user's privacy preferences is used, along other factors, to design a framework for inferring whether an image should be sent to a particular recipient or not. A proof-of-concept implementation of this framework will be developed for Android phones as a service that any app on the phone can use, with the user's permission. Moreover, the privacy preferences of users in the middle east, and especially in the Gulf region are unique and usually underrepresented in research. Therefore, we intend to study the privacy preferences of users in Kuwait and customize our framework with additional labels for images that the machine learning model can recognize, such as "Not Wearing Hijab", that are particular to our region.