حریم خصوصی‌مان چگونه از دست رفت؟ | تجارت فردا


تشخیص چهره فناوری بر خلاف چیزی که ممکن است در حال حاضر به نظر برسد، بسیار دیر شکوفا شد: قبل از اینکه این تکنولوژی سرانجام به بلوغ برسد، 40 سال بسیار کُند و به سختی در حال پیشرفت بود. در نمایشگاه جهانی ژاپن در سال 1970، یک کامپیوتر اولیه سعی کرد تشخیص دهد بازدیدکنندگان، شبیه کدام‌یک از اشخاص مشهور هستند. تلاشی که تقریباً در همه موارد ناموفق بود. در سال 2001، نخستین سیستم نظارتی «هوشمند» تشخیص چهره از طریق اداره پلیس در تامپا، فلوریدا، به کار گرفته شد، اما نتوانست هیچ‌گونه شناسایی را که موجب دستگیری شود انجام دهد. در جلسه‌ای در واشنگتن دی‌سی، در سال 2011، یکی از کارمندان اینتل تلاش کرد سیستم دوربینی را به نمایش بگذارد که قرار بود چهره مرد را از چهره زن تشخیص دهد. زنی با موهای قرمز تا شانه از میان حاضران داوطلب شد و شاید باورش اکنون برای ما سخت باشد، اما کامپیوتر او را مرد تشخیص داد!



تشخیص چهره به دو دلیل سخت بود. اول اینکه آموزش تشخیص چهره انسان به کامپیوتر به اندازه کافی مشکل بود. اما مهم‌تر اینکه تطبیق آن چهره با هویت فرد واقعی در یک پایگاه داده بیشتر موضوع یک داستان علمی-تخیلی به نظر می‌آمد تا واقعیتی که بتواند در دسترس قرار گیرد، چون هم به قدرت محاسباتی قابل توجهی نیاز داشت و هم مقادیر زیادی عکس مرتبط با داده‌های دقیق را می‌طلبید. به نظر می‌رسید این مشکلات در کوتاه‌مدت قابل حل نباشند، به‌خصوص که درآمدی برای ساخت چنین نرم‌افزاری در سطح هزینه‌ای که داشت پیش‌بینی نمی‌شد و شرکت‌ها طرح‌های بسیار سودآورتری در دست اجرا داشتند. در واقع تشخیص چهره برای بیشتر مردم جهان در آن زمان یادآور فیلم «گزارش اقلیت» و سایر فیلم‌ها و داستان‌های علمی-تخیلی بود تا اتفاقی در دنیای واقعی. اما از سال 2011 به بعد تغییرات مهمی اتفاق افتاد که اجرای این طرح را هم بسیار آسان و کم‌هزینه‌تر و هم بسیار سودآورتر کرد.

مهم‌ترین این تغییرات همه‌گیری استفاده از شبکه‌های اجتماعی و بارگذاری عکس در آنها به وسیله مردم عادی بود که عملاً پایگاه داده‌ای را که نرم‌افزار برای مطابقت لازم داشت داوطلبانه، رایگان و بدون مشکلات قانونی در اختیار توسعه‌دهندگان نرم‌افزار قرار داد. حالا و در حدود یک دهه بعد استفاده از این فناوری آنقدر گسترده شده است که به نظر می‌رسد باید درباره عواقب اخلاقی، قانونی اجتماعی آن نگران باشیم. در ایالات‌متحده نرم‌افزار تشخیص چهره به طور فزاینده‌ای به وسیله مجریان قانون و سازمان‌های اطلاعاتی به کار گرفته می‌شود. در بریتانیا تخمین زده می‌شود که نیروهای پلیس در سال گذشته بیش از 85 هزار جست‌وجوی تشخیص چهره در پایگاه داده ملی پلیس انجام داده‌اند که چهار برابر بیشتر از سال 2021 بوده است. کمیسر پلیس متروپولیتن، سر مارک رولی، اخیراً اظهار داشت که تحولات در تشخیص چهره «پتانسیل بسیار زیاد» نشان داده است. وزرای دولت بریتانیا می‌گویند که تصاویر چهره موجود در پایگاه‌های داده ملی، از جمله پایگاه داده پاسپورت بریتانیا و سیستم بیومتریک مهاجرت و پناهندگی، باید به طور فزاینده‌ای در مبارزه با جرم و جنایت به کار گرفته شود. اما پس مشکل کجاست؟

به‌هرحال اگر کسی جرم یا جنایتی انجام داده است باید با عواقب آن روبه‌رو شود و چه اشکالی وجود دارد که فناوری بتواند این کار را با ضریب خطای کمتر و سرعت بیشتر انجام دهد و افراد خاطی را به قانون تحویل دهد؟ اصلاً چرا باید چنین موضوعی باعث نگرانی شود؟ مشکل از جایی آغاز می‌شود که این تنها استفاده‌ای نیست که با استفاده از نرم‌افزار تشخیص چهره می‌توان انجام داد و مانند همه تکنولوژی‌های دیگر، بسته به اینکه در اختیار چه شخص یا اشخاص یا حتی دولت‌هایی قرار می‌گیرد می‌تواند کاربردهایی بسیار متفاوت داشته باشد.

کشمیر هیل [Kashmir Hill] روزنامه‌نگاری که از سال 2019 برای نیویورک‌تایمز در زمینه فناوری و به‌خصوص تاثیر آن بر زندگی و حریم خصوصی افراد می‌نویسد در کتاب اول خود «چهره تو متعلق به ماست» [Your Face Belongs to Us] به سراغ فناوری تشخیص چهره و به طور خاص استارت‌آپ جنجالی «کلیرویو» می‌رود تا به ما نشان دهد چرا باید نگران انواع نرم‌افزارهای تشخیص چهره باشیم نه‌تنها وقتی که در دست اشخاص نامناسبی قرار می‌گیرند، بلکه حتی وقتی ماموران صادق و واقعی قانون از آنها استفاده می‌کنند. کتاب با شرح هیجان‌انگیزی شروع می‌شود که چگونه هیل با هوش مصنوعی کلیرویو و هم‌بنیان‌گذار آن، «هوآن تون دت» آشنا شد.

کلیرویو یک شرکت فناوری با پایگاه داده بیش از 30 میلیارد چهره است که از سراسر اینترنت جمع‌آوری شده است که به آن کمک می‌کند افراد را با دقت بیش از 96 درصد شناسایی کند. اما یافتن دفتر مرکزی این شرکت عظیم که در زمان آشنایی کشمیر با آن طرف قرارداد بخشی از نیروی پلیس ایالات‌متحده بود و بعضی دولت‌های جهان مشتری آن بودند حتی برای روزنامه‌نگار باسابقه‌ای مانند وی نیز به چالشی جدی تبدیل شد. شرکت یا نماینده‌ای از آن تقریباً در هیچ‌یک از آدرس‌هایی که در منابع رسمی گفته شده بود وجود خارجی نداشت (در یک مورد اصلاً خود آدرس هم وجود خارجی نداشت). اما همین شرکت تقریباً ناموجود در همین زمان می‌توانست با استفاده از تنها یک عکس که الزاماً هم نباید عکس نمایه «رو به دوربین» باشد، مکان‌هایی را که این شخص در آن حضور داشته به شما نشان دهد. در برون‌یابی این داده‌ها، کلیرویو همچنین می‌تواند جنبه‌هایی مانند مکان‌ها، مخاطبان فرد تحت کنترل و سایر داده‌های شخصی را شناسایی کند. داده‌های چهره بدون کسب مجوز از مردم جمع‌آوری شده است. درحالی‌که برنامه اولیه کلیرویو این بود که در سال‌های شکل‌گیری آن را به بخش تجاری بفروشد، وضعیتی به وجود آمد تا آژانس‌های مجری قانون ایالات‌متحده به خریداران اصلی این فناوری تبدیل شوند.

این شرکت با وجود استفاده گسترده از محصولاتش از سوی سازمان‌های مجری قانون ایالات‌متحده تا سال 2020، خارج از یک دایره محدود شناخته‌شده نبود. «تون دت» یک شخصیت جذاب است. این اعجوبه فناوری ویتنامی-استرالیایی زمانی که تصمیم گرفت از استرالیا به ایالات‌متحده نقل مکان کند، پس از کسب تجربیات پراکنده گوناگون بر آن شد در جایگاه یک توسعه‌دهنده آزمون‌های فیس‌بوک شروع به کار کند. در طول کتاب ما شاهد تبدیل شدن او از یک لیبرال ساکن سانفرانسیسکو به یک حامی دونالد ترامپ با کلاه ورزشی ماگا هستیم تا از نظر سیاسی آگنوستیک شود. یکی از نسخه‌های هوش مصنوعی کلیرویو به نام اسمارت چکر نخستین‌بار در گردهمایی ترامپ استفاده شد و«تون دت» پس از این گردهمایی مجوز استفاده از این نرم‌افزار را به دولت مجارستان فروخت. در ارائه‌ای که وی برای تیم دولت ویکتور اوربان ترتیب داده بود به آنها اطمینان داده شد اسمارت چکر «برای شناسایی افرادی که اوربان آنها را دشمن می‌داند: فعالان دموکراسی که به «مرزهای باز» اعتقاد داشتند، به‌خوبی تنظیم شده است».

در تمام کتاب کشمیر تاکید می‌کند که «تون دت» هیچ کار جدید یا بدیعی انجام نداده است. گوگل و فیس‌بوک هر دو این امکان و توانایی را داشتند که آن را در داخل شرکت خود توسعه دهند و در نهایت تصمیم گرفتند آن را منتشر نکنند. آن هم در حالی‌ که اینها شرکت‌هایی نیستند که به طور سنتی در مورد اطلاعات خصوصی محافظه‌کار باشند. کافی است به یاد بیاورید که می‌توانید تصویر تقریباً آنلاین خانه خود را (البته بنا به کشوری که در آن زندگی می‌کنید) در گوگل‌مپ مشاهده کنید، اما با‌وجوداین می‌دانستند در این فناوری باید بسیار محتاط‌تر عمل کنند. کشمیر می‌گوید، چیزی که در مورد کلیرویو متفاوت بود این بود که آنها یک استارت‌آپ بودند که چیزی برای از دست دادن نداشتند و همه چیز را با انجام کاری رادیکال به دست می‌آوردند؛ کاری که سایر شرکت‌ها حاضر به انجام آن نبودند. وی آنها را در رده یک کارآفرین نظارتی مانند اوبر یا ایربی‌ان‌بی (سایت اجاره موقت محل اقامت) قرار می‌دهد با این تفاوت که ایده خلاقانه این استارت‌آپ‌ها را هم نداشتند و صرفاً به‌شدت از نظر شخصی و اخلاقی ریسک‌پذیر بودند و این وجه تمایز آنها بود.

«تون دت» گفت: «ما این پایگاه داده را می‌سازیم، و اینترنت را به صورت چهره‌ای سازماندهی می‌کنیم، و این مزیت رقابتی ماست. ما می‌خواهیم پایگاه داده خود را تا جایی که می‌توانیم بزرگ کنیم، قبل از اینکه دیگران بتوانند به ما نزدیک شوند.» به نظر کشمیر این یک فناوری بسیار در دسترس بود و هر کسی که دانش فنی داشته باشد و پول ذخیره و جمع‌آوری این تصاویر را داشته باشد می‌تواند چیزی شبیه به این بسازد. «تون دت» پیتر تیل را در کنوانسیون ملی جمهوری‌خواهان ملاقات کرد و پیتر تیل در نهایت با پرداخت 200 هزار دلار نخستین سرمایه‌گذار در شرکتی شد که به هوش مصنوعی کلیرویو تبدیل شد. آنها در ابتدا سعی داشتند این نرم‌افزار را به مشاغل خصوصی بفروشند: هتل‌ها، فروشگاه‌های مواد غذایی، ساختمان‌های تجاری املاک و مستغلات. آنها همچنین آن را به سرمایه‌گذاران و افرادی که مالک آن فروشگاه‌ها و ساختمان‌های مواد غذایی هستند ارائه کردند که می‌توانست قابلیت‌های فراوانی از جمله شناسایی دزدها تا شناسایی مشتریان ثابت و علایق آنها برای ارائه خدمات بهتر داشته باشد. هنگامی که در یکی از این ساختمان‌های املاک و مستغلات به عنوان ابزاری برای استفاده در لابی برای بررسی افراد استفاده شد، مدیر امنیتی ساختمان آنها را به همکاران قدیمی خود در اداره پلیس نیویورک معرفی کرد و اینجاست که داستان کشمیر حیرت‌انگیز می‌شود. بسیاری از افسران اداره پلیس نیویورک شروع به استفاده مخفیانه از آن کردند. این شوکه‌کننده بود که پلیس می‌تواند اساساً یک ابزار بررسی‌نشده را از یک شرکت تصادفی دریافت کند و آن را در تلفن‌های خود دانلود کند و فقط شروع به استفاده از آن در تحقیقات فعال کند. اما این اتفاقی بود که واقعاً رخ داد. هیل در مصاحبه‌ای توضیح می‌دهد که چندین بار خواسته از کلیرویو استفاده کند و جواب «تون دت» این بوده که فقط پلیس امکان این کار را دارد. پاسخی که وی به شدت به آن مشکوک است. اما نتیجه استفاده از نرم‌افزار روی چهره خود هیل از سوی شرکت برایش عجیب بوده است. هیل گفته، خودش هم در یکی از تصاویری که کلیرویو به عنوان نتیجه نشان داده خودش را نشناخته است، چون نه‌تنها در پس‌زمینه قرار دارد که تقریباً پشت به دوربین است و تنها از روی لباسی که به تن دارد مطمئن شده خودش است!

هیل همچنین چگونگی تکامل بینایی کامپیوتر و فناوری تشخیص چهره را در چند دهه اخیر توضیح داده است. شرح این پیشینه تاریخی به قرار دادن مفاهیم فناوری تشخیص چهره در زمینه مناسب کمک می‌کند. دیدن اینکه چگونه تعصبات علیه بخش‌های خاصی از جامعه (به‌ویژه زنان و رنگین‌پوستان) در تلاش برای استفاده از این فناوری در جریان اصلی نادیده گرفته شده‌اند، تکان‌دهنده است. شش مورد دستگیری اشتباه افراد -همه سیاه‌پوستان- فقط به این دلیل وجود دارد که نرم‌افزار تشخیص چهره آنها را مجرم معرفی کرده است. هیل جزئیات دستگیری تکان‌دهنده یک مرد سیاه‌پوست به نام رابرت ویلیامز را در مقابل خانواده‌اش و زندانی شدن وی برای مدتی توضیح می‌دهد که تنها به این دلیل رخ داد که کلیرویو وی را به عنوان عامل جنایتی که در ایالتی دیگر رخ داده بود شناسایی کرد. در این مورد، اداره پلیس هرگز به خود زحمت تحقیقات استاندارد را نداد و کاملاً بر فناوری تشخیص چهره تکیه کرد که نشان می‌دهد ترکیب نژادپرستی (که کاربر به کاربر می‌تواند متفاوت باشد) و تکنولوژی ممکن است چه مشکلات عظیمی به بار آورد.

افزایش فناوری تشخیص چهره با از بین رفتن حریم خصوصی شخصی همراه بوده است، زیرا مکان‌های عمومی و خصوصی با دوربین‌های مداربسته قوی‌تر پر شده‌اند. با کمک چند نمونه از چین، هیل نشان می‌دهد که چگونه این شرکت‌های دوربین به اندازه کافی پیشرفته هستند تا بتوانند تشخیص چهره زنده را انجام دهند و امتیازهای اجتماعی را به افراد اختصاص دهند. خوشبختانه، این نوع فناوری فرار هنوز به یک هنجار تبدیل نشده است (اگرچه در بعضی نقدهای نوشته‌شده بر کتاب، اعتقاد بر این است که هیل دراین‌باره خوش‌بین است و همین حالا هم داستان از کنترل خارج شده است) و باید با تبدیل شدن آن به هنجار و استفاده گسترده از آن مبارزه کرد. به گفته هیل، سوالی که در حال حاضر باید از خود بپرسیم این است که، می‌خواهیم تشخیص چهره تا چه حد گسترده باشد؟ و این پرسشی در سطح کلان است. آیا ما می‌خواهیم پلیس فقط از این امکان برای حل جنایاتی که قبلاً اتفاق افتاده است استفاده کند؟ یا می‌خواهیم فناوری تشخیص چهره را در دوربین‌های سراسر کشور به کار بگیریم تا بتوانید هشدارهای بلادرنگ را در صورت وجود یک فرد فراری دریافت کنید؟ آیا قرار است همه ما چنین برنامه‌ای در گوشی خود داشته باشیم؟ آیا قرار است دولت‌هایی که مشتری این نرم‌افزار هستند خود بتوانند تعیین کنند چه کسانی را می‌خواهند تحت تعقیب یا رهگیری قرار دهند، یا باید صرفاً برای مجرمان جنایات غیرسیاسی و اجتماعی به کار گرفته شود؟

به عقیده نویسنده، پرسش‌های بسیاری وجود دارد، زیرا از طرفی اگر تشخیص چهره را به طور گسترده‌تری مطرح کنیم، فقط علیه برخی افراد بیشتر از آن استفاده می‌شود. از سوی دیگر ما باید همین الان تصمیم بگیریم که می‌خواهیم دنیا چگونه باشد و اینکه آیا می‌خواهیم چهره‌هایمان همیشه ردیابی شود یا خیر؟ آیا می‌خواهیم در یک دنیای آخرالزمانی زندگی کنیم یا نه. این مسیری نیست که راه برگشتی داشته باشد. اما مسئله مهم‌تر این است که آیا حتی اگر تصمیم قانونی در این مورد نه باشد و بخواهیم محدودیت‌های بسیاری برای استفاده از این نرم‌افزار اعمال کنیم تا حریم خصوصی خود را حفظ کنیم راهی برای دور زدن آن وجود نخواهد داشت؟ هیل پیش‌ازاین نشان داده که کلیرویو کار جدید یا فوق‌العاده‌ای انجام نداده که دیگری از انجام آن ناتوان باشد، چطور می‌توان مطمئن شد این جن داخل بطری باقی می‌ماند با این فرض که همین حالا هم از بطری خارج نشده است؟

^{................} تجربه‌ی زندگی دوباره ^{...............}