سرمایه گذاری سرسام آور شرکت های بزرگ فناوری در هوش مصنوعی و چت بات ها – در میان اخراج های گسترده و کاهش رشد – بسیاری از افسران ارشد امنیت اطلاعات را در گردباد قرار داده است.

با ChatGPT OpenAI، هوش مصنوعی Bing مایکروسافت، Bard Google و طرح Elon Musk برای چت بات خود که سرفصل خبرها شده است، هوش مصنوعی مولد به محیط کار نفوذ می کند و افسران ارشد امنیت اطلاعات باید با احتیاط به این فناوری نزدیک شوند و با اقدامات امنیتی لازم آماده شوند.

فناوری پشت GPT یا ترانسفورماتورهای از پیش آموزش‌دیده مولد، توسط مدل‌های زبان بزرگ (LLM) یا الگوریتم‌هایی که مکالمات انسان‌مانند یک ربات چت را تولید می‌کنند، تامین می‌شود. اما هر شرکتی GPT مخصوص به خود را ندارد، بنابراین شرکت ها باید بر نحوه استفاده کارگران از این فناوری نظارت کنند.

مایکل چوی، یکی از شرکای موسسه جهانی مک کینزی، می‌گوید: اگر افراد برای انجام کارهایشان مفید بدانند، از هوش مصنوعی مولد استفاده خواهند کرد و آن را با روشی که کارگران از رایانه‌های شخصی یا تلفن‌ها استفاده می‌کنند، مقایسه می‌کند.

«حتی زمانی که توسط فناوری اطلاعات مورد تایید یا برکت نیست، مردم در حال یافتن هستند [chatbots] چوی گفت مفید است.

او گفت: «در طول تاریخ، ما فناوری‌هایی را یافته‌ایم که آنقدر قانع‌کننده هستند که افراد حاضرند برای آن هزینه بپردازند. مردم خیلی قبل از اینکه شرکت‌ها بگویند «این را به شما عرضه می‌کنم» تلفن‌های همراه می‌خریدند. رایانه‌های شخصی مشابه بودند، بنابراین ما اکنون مشابه آن را با هوش مصنوعی مولد می‌بینیم.”

چوی افزود، در نتیجه، شرکت‌ها از نظر نحوه برخورد با تدابیر امنیتی، «برخوردار» هستند.

خواه این یک روش تجاری استاندارد مانند نظارت بر اطلاعات به اشتراک گذاشته شده در یک پلتفرم هوش مصنوعی یا ادغام یک GPT تایید شده توسط شرکت در محل کار باشد، کارشناسان فکر می کنند حوزه های خاصی وجود دارد که CISO ها و شرکت ها باید از آنجا شروع کنند.

با اصول اولیه امنیت اطلاعات شروع کنید

CISO ها – که در حال حاضر با فرسودگی شغلی و استرس مبارزه می کنند – با مشکلات کافی مانند حملات احتمالی امنیت سایبری و افزایش نیازهای اتوماسیون مقابله می کنند. همانطور که هوش مصنوعی و GPT وارد محل کار می شوند، CISO ها می توانند با اصول اولیه امنیتی شروع کنند.

چوی گفت که شرکت‌ها می‌توانند مجوز استفاده از یک پلتفرم هوش مصنوعی موجود را داشته باشند، بنابراین می‌توانند آنچه را که کارمندان به یک ربات چت می‌گویند نظارت کنند و مطمئن شوند که اطلاعات به اشتراک‌گذاشته‌شده محافظت می‌شود.

چوی گفت: «اگر شما یک شرکت هستید، نمی‌خواهید کارمندانتان یک ربات چت در دسترس عموم را با اطلاعات محرمانه تشویق کنند. بنابراین، می‌توانید ابزارهای فنی را در محل قرار دهید تا بتوانید مجوز نرم‌افزار را داشته باشید و یک توافقنامه قانونی قابل اجرا در مورد اینکه داده‌های شما کجا می‌روند یا نمی‌روند، داشته باشید.

چوی گفت که استفاده از مجوز از نرم افزار با بررسی و تعادل اضافی همراه است. حفاظت از اطلاعات محرمانه، مقررات مربوط به محل ذخیره اطلاعات، و دستورالعمل‌هایی برای نحوه استفاده کارکنان از نرم‌افزار – همه زمانی که شرکت‌ها به نرم‌افزار مجوز می‌دهند، چه هوش مصنوعی یا نه، روش استانداردی هستند.

چوی گفت: «اگر توافقی دارید، می‌توانید نرم‌افزار را بررسی کنید، بنابراین می‌توانید ببینید که آیا آن‌ها از داده‌ها به روشی که شما می‌خواهید محافظت می‌کنند محافظت می‌کنند یا خیر».

چوی گفت، اکثر شرکت‌هایی که اطلاعات را با نرم‌افزار مبتنی بر ابر ذخیره می‌کنند، قبلاً این کار را انجام می‌دهند، بنابراین پیشروی و ارائه یک پلتفرم هوش مصنوعی به کارمندان که توسط شرکت تأیید شده است، به این معنی است که یک کسب‌وکار در حال حاضر مطابق با شیوه‌های صنعتی موجود است.

Sameer Penakalapati، مدیر اجرایی Ceipal، یک پلتفرم جذب استعداد مبتنی بر هوش مصنوعی، می‌گوید یکی از گزینه‌های امنیتی برای شرکت‌ها توسعه GPT خود یا استخدام شرکت‌هایی است که این فناوری را ایجاد می‌کنند تا یک نسخه سفارشی بسازند.

در عملکردهای خاصی مانند HR، پلتفرم های متعددی از Ceipal گرفته تا TalentGPT Beamery وجود دارد و شرکت ها ممکن است برنامه مایکروسافت برای ارائه GPT قابل تنظیم را در نظر بگیرند. اما با وجود هزینه های فزاینده، شرکت ها ممکن است بخواهند فناوری خود را ایجاد کنند.

اگر یک شرکت GPT خود را ایجاد کند، نرم افزار اطلاعات دقیقی را خواهد داشت که می خواهد کارکنان به آن دسترسی داشته باشند. Penakalapati گفت که یک شرکت همچنین می تواند از اطلاعاتی که کارمندان به آن وارد می کنند محافظت کند، اما او اضافه کرد که حتی استخدام یک شرکت هوش مصنوعی برای تولید این پلت فرم به شرکت ها امکان می دهد اطلاعات را با خیال راحت تغذیه و ذخیره کنند.

هر مسیری که یک شرکت انتخاب کند، Penakalapati گفت که CISO ها باید به خاطر داشته باشند که این ماشین ها بر اساس نحوه آموزش آنها کار می کنند. مهم است که در مورد داده هایی که به فناوری می دهید عمدی باشید.

پناکالاپاتی گفت: «من همیشه به مردم می‌گویم که مطمئن شوید فناوری‌ای دارید که بر اساس داده‌های بی‌طرفانه و دقیق اطلاعات ارائه می‌دهد. زیرا این فناوری تصادفی ایجاد نشده است.