AI是企业的朋友还是敌人？集成genAI的挑战与机遇

SolarWinds公司最新发布的2024年IT趋势报告《AI：朋友还是敌人？》显示，尽管90%的IT专业人士希望在其组织中实施生成性人工智能（genAI），但超过一半的人对集成、安全和隐私问题表示担忧。

在对大约7000名IT专业人士进行的在线调查中，SolarWinds公司发现，尽管几乎所有受访者都渴望采用genAI和其他基于AI的工具，但不到一半的受访者认为他们的基础设施能够适应这项新技术。只有43%的受访者表示他们相信公司的数据库能够满足AI增加的需求，而更少的人（38%）信任用于开发这项技术的数据或训练的质量。

报告指出，隐私和安全问题被认为是genAI集成的主要障碍，IT专业人士特别呼吁增加政府监管来解决安全（72%）和隐私（64%）问题。当被问及AI的挑战时，41%的受访者表示他们有过负面经历；其中，隐私问题（48%）和安全风险（43%）是最常被提及的。

超过一半的受访者还认为，政府监管应该在打击虚假信息方面发挥作用。报告中提到：“为了确保AI的成功和安全采用，IT专业人士认识到，组织必须制定关于道德、数据隐私和合规性的全面政策，这指向了道德考虑和对工作被取代的担忧，作为AI采用的其他重要障碍。”

SolarWinds报告还发现，超过三分之一的组织仍然缺乏指导适当genAI实施的道德、隐私和合规政策。SolarWinds的技术和工程高级副总裁Krishna Sai表示：“尽管AI的讨论在行业中占据了主导地位，但IT领导者和团队认识到，这项仍在发展中的技术存在巨大的风险，这些风险因急于快速而非智能地构建AI而加剧。”

事实上，领先的安全专家预测，黑客将越来越多地针对genAI系统，并尝试通过破坏数据或模型本身来“投毒”。今年早些时候，美国国家标准技术研究院（NIST）发表了一篇论文，警告说“投毒攻击非常强大，可以导致可用性违规或完整性违规。”