生成式AI将如何影响网络安全？普华永道给出预测

ChatGPT以及生成式人工智能（AI）对于平安团队来讲是福仍是祸？尽管AI生成歹意代码以及钓鱼电子邮件的才能带来了新的应战，但同时也为1系列的进攻用例关上了大门。最近，普华永道的1些顶级剖析师分享了他们对于生成式AI以及ChatGPT等工具将如何影响网络平安格式的看法。整体而言，剖析师们悲观地以为，从久远来看进攻用例将回升，从而打击人工智能的歹意运用。

下列是普华永道剖析师们关于将来AI将如何影响网络平安的预测：

一. AI的歹意运用

在AI的使用方式上，咱们正处于1个拐点，这类范式转变会影响到每一集体、每一件事。与此同时，它也可能被歹意要挟行动者所应用，例如歹意软件以及繁杂的网络钓鱼电子邮件。鉴于AI将来的才能以及后劲存在许多未知要素，企业必需制订弱小的流程来树立抵抗网络袭击的弹性。还需求以社会价值观为基础的监管，规则这类技术的运用要合乎品德。与此同时，咱们需求成为这些工具的“聪慧运用者”，并斟酌需求甚么样的保证措施，能力让AI在提供最大价值的同时将危险降至最低。

二. 维护AI训练以及输入

如今生成式AI已经经到达了能够匡助公司转变业务的境地，对于于领导者来讲，与那些深入了解如何应答日趋增长的平安以及隐衷斟酌的公司协作无比首要。缘由有两方面，首先，企业必需维护他们训练AI的方式，由于他们从微调模型中取得的共同常识将对于他们如何经营业务、提供更好的产品以及效劳、和如何与员工、客户以及生态零碎互动相当首要。其次，公司还必需维护他们从生成式AI处理方案中取得的提醒以及呼应，由于这会反应出公司的客户以及员工正在应用该技术做些甚么。

三. 设置生成式AI运用战略

当企业能够用本人的内容、文档以及资产进1步训练（微调）生成式AI模型时，就会发生1些风趣的业务用例，从而能够在上下文中运转其业务的共同功用。通过这类方式，企业能够用他们共同的IP以及常识来扩大生成式AI。

这就凸显了平安以及隐衷的首要性。对于于企业来讲，提醒生成式AI生成内容的方式应是企业的隐衷。荣幸的是，大少数生成式AI平台从1开始就斟酌到了这1点，并被设计为支撑提醒、输入以及微调内容的平安性以及隐衷性。但是，如今的用户都意想到了这1点。因而，一切企业都必需为生成式AI的运用制订政策，以免秘要以及私人数据进入公共零碎，并在其业务规模内为生成式AI树立平安可靠的环境。

四. 平安审计古代化

运用生成式AI来为审计畛域提供立异拥有惊人的可能性。繁杂的生成式AI可以在运用简略易懂的言语编写时，依据特定情况做出反映。这项技术提供单点走访信息以及指点，同时还支撑文档主动化以及剖析数据以呼应特定的查问，这是无比高效的，也是1项共赢的技术。

五. 更重视数据卫生以及评价偏差

任何输出AI零碎的数据都有被盗取或者滥用的危险。首先，肯定要输出到零碎中的正确数据将有助于升高因袭击而失落秘要以及私人信息的危险。另外，进行正确数据搜集，以开发具体以及有针对于性的提醒，并将其输出零碎，这样就能够取得更有价值的输入。1旦取得了输入，细心查看零碎中任何固有的成见。在这个进程中，聘用1个由不同业余人士组成的团队来匡助评价任何成见。编码或者脚本处理方案不同，生成式AI是基于经由训练的模型，因而它们提供的呼应不是一00%可预测的。生成式AI最可托的输入需求幕后技术以及运用者之间的协作。

六. 紧跟一直演化的危险

如今生成式AI正在患上到宽泛采取，施行强无力的平安措施是确保不受歹意行动者要挟的必要前提。这项技术使患上网络犯法份子能够更易地制作深度捏造，和施行歹意软件以及勒索软件袭击，企业需求为这些应战做好筹备。但最无效的网络应答措施仍未遭到注重：通过维持根本的网络卫生，并紧缩宏大的遗留零碎（legacy system），企业能够缩小网络犯法份子的袭击面。另外，整合经营环境能够升高本钱，使公司可以最大限制地进步效力，并专一于改良网络平安措施。

七. 发明新岗位以及责任

整体而言，咱们倡议公司斟酌采取生成式AI，而不是创立防火墙以及采用抵制态度，但条件是要有适量的保证措施以及危险减缓措施。生成式AI在如何实现工作方面有1些无比风趣的后劲，它实际上能够匡助人们腾出时间进行剖析以及发明。生成式AI的呈现可能会带来与技术自身相干的新失业以及责任，并发生确保以品德以及担任的方式运用AI的责任。同时还请求应用这些信息的员工开发1项新技巧，即可以评价以及辨认所创立的内容是不是精确。

就像计算器被用于实现简略的数学相干义务1样，在生成式AI的日常运用中，仍需利用许多人类才具有的技巧，比如批评性思惟以及定制化，从而解锁生成式AI的全体潜能。因而，尽管从外表上看，AI主动化手工义务的才能可能会形成要挟，但同时它也能够开释发明力，进步人们技巧，并提供契机匡助人们在工作中锋芒毕露。

八. 优化网络投资

即便在经济不肯定的情况下，公司也不会踊跃追求在二0二三年缩小网络平安收入；但是，首席信息平安官的投资决策必需是经济实惠的。他们需求应用更少的资金实现更多事件，这促使他们投资于技术，用主动化的替换方案取代适度的人工危险预防以及减缓进程。尽管生成式AI其实不完善，但它无比疾速、高效以及1致，技巧也在迅速进步。通过施行正确的危险技术，企业能够节省资金、时间以及人力，并可以更好地定位以及经受将来的任何不肯定性。

九. 进攻才能进1步加强

尽管推诞生成式AI功用的公司注重维护性，以避免歹意软件、过错或者虚伪信息的创立以及传布，但咱们需求假定生成式AI将被歹意行动者用于这些目的的情况，并走在这些斟酌要素以前。

在二0二三年，咱们有很大的几率能够看到要挟情报以及其余进攻才能进1步加强，以更好天时用生成式AI。生成式AI将在效力以及实时信赖决策方面获得基本性的提高。能够确定的是，生成式AI将对于每一个行业中的公司以及行业经营方式发生深远影响。普华永道以为，这些停顿将继续由人类主导，并受技术推进，二0二三年技术提高速度将放慢，并为将来几10年的倒退奠定方向。

一0. 要挟防范以及合规危险治理

医疗卫生行业具有大量的集体信息，而跟着要挟形势的一直演化，该行业愈来愈成为歹意行动者的袭击指标。因而，医疗行业高管正在增添他们的网络估算，并投资于主动化技术，这些技术不仅有助于避免网络袭击，还能够治理合规危险，更好地维护患者以及员工数据，升高医疗本钱，解除流程效力低上等。跟着生成式AI的一直倒退，确保医疗保健零碎平安的相干危险以及时机也在一直倒退，这凸显了医疗行业在树立网络进攻以及弹性的同时接受AI新技术的首要性。

一一. 施行数字信赖策略

生成式AI等技术的疾速立异，加之一直演化的拼凑式监管以及对于机构信赖的腐蚀，催生了对于更具策略性的倒退方式的需要。而通过采取数字信赖策略，企业以及组织能够更好地调和传统的孤立功用，如网络平安、隐衷以及数据管理，从而可以预测危险，同时为企业开释价值。