想象一下，一大片蔓延到地平线的农田种植着小麦，收获后被加工成面粉并将被制成面包，供城市人口食用。再想象一下，耕作、种植、施肥、监测和收割这块农田的所有权力都授予人工智能：控制滴灌系统、自主驾驶拖拉机和联合收割机。这虽然足够聪明，足以对天气和作物的确切需求做出反应，但是然后一个黑客却能把事情搞得一团糟。

近期发表在《Nature Machine Intelligence》杂志上的一项风险评估分析发出警告，人工智能在未来农业中可能会给农场、农民和粮食安全带来巨大的潜在风险，而人们对这些风险知之甚少，甚至都没有得到足够的重视。

这项研究的第一作者、剑桥大学CSER中心的Asaf Tzachor博士表示，通过人工智能经营农场的想法并非科幻小说，大公司已经在开发下一代自主化机器人和决策支持系统，并将在农业领域逐步取代人力。但到目前为止，似乎还没有人问过这样一个问题，“快速部署的农业人工智能有没有什么风险？”

尽管人工智能在改善作物管理和农业生产率方面有着巨大的前景，但潜在的风险必须得到真正解决。新技术必须在实际环境中进行适当的测试，以确保它们是安全的，不受意外故障、意外后果和网络攻击的影响。

在这项剑桥大学的研究中，研究团队提出了一系列农业行业发展人工智能必须考虑的风险，以及解决这类风险的方法。根据这份风险评估报告，网络攻击可能会“劫持”人工智能，通过毒化数据集或关闭喷雾器、无人机和收割机，对商业农场造成破坏。为了防范这种情况，需要“白帽黑客”帮助发现软件开发阶段的任何安全漏洞，减少受真正黑客攻击的机率。

报告指出，一个只在短期内提供最佳作物产量的人工智能系统，可能会忽视实现产量目标的环境后果，导致长期过度使用化肥和土壤侵蚀。过度使用农药，追求高产可能会毒害生态系统；过度使用化肥，会污染土壤和周边水道。报告建议让农业生态学家还有农村人类学家参与人工智能技术的设计过程，以确保避免这些情况。

自动化和无人驾驶可以改善农民的工作条件，把他们从体力劳动中解脱出来；但是，如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等将继续存在，包括性别和种族歧视等。不考虑劳动力复杂性的农业人工智能系统将忽视并可能持续盘剥弱势社区，无法从根本解决农业问题。

我们看到农业行业中已经开始部署各种机器人，先进的机械设备以及传感器，用于收集农作物信息，支持农民的决策，比如检测疾病或灌溉情况，有的农业机械设备甚至可以在不需要驾驶员的情况下自主工作。这样的自动化系统旨在提高农业效率，节省劳动力成本，优化生产，并将损失和浪费降至最低。虽然这可以帮助农民增加收入，但也会导致对人工智能依赖程度的提高。

然而，全球大部分农场，并为南半球大片地区提供食物的皆是小农户，而他们却可能会被排除在人工智能所带来的相关福利之外。市场边缘化、低互联网普及率和数字技术代沟可能会阻止这些小农户使用最先进的农业技术，拉大商业化农场和自给自足农民之间的差距。

据估计，全球有20亿人受到粮食不安全的困扰，其中约6.9亿人营养不良，3.4亿儿童缺乏微量元素。面对气候变化和人口增长，人工智能和精准农业技术有望为粮食和营养安全带来实质性好处。但是，在大规模部署这类技术时，我们应该密切考虑潜在的风险，并致力于在技术设计的早期了解并降低这些风险。