荷兰城市使用算法评估房屋价值，但不知道其运作方式

在阿姆斯特丹上诉法院看似例行的案件中，一名法官裁定，只要结果不令人惊讶，市政当局可以使用黑盒算法。

2016年，位于荷兰35,000的海滨小镇Castricum将未具名的索赔人的房屋价值定为320,000欧元（在荷兰，房产税是根据房屋的估计转售价值支付的）。索赔人说，价格太高了，他立即上了法庭。

索赔人辩称，他的财产遭到地震破坏，因此其转售价值低得多。坐在地震断层上的读者可能会嘲笑荷兰的地震主意，但地震确实发生在1997年1月30日距离卡斯特里库姆10公里的地方，震级为2级。市政当局提供了9次探视房屋的方法，以评估损失，但索赔人以对他的自由的担忧为由拒绝了。阿姆斯特丹上诉法院在去年2月的裁决中逻辑上支持了市政当局的评估。

该试验的有趣之处在于评估价值为320,000欧元。根据法律，荷兰市政当局每年必须估算财产的价值。有关法律简称为WOZ，导致荷兰人为估算使用“ WOZ价值”。评估室监督市政当局一级的流程。

估值室的一位官员说，几乎所有市政当局都依靠五家公司的工具来评估WOZ值，这些工具使用清晰的统计方法。在一些市政当局使用人工智能进行实验时，他不知道有任何此类模型用于计算实际的WOZ值。

该官员补充说，评估室指示市政当局确保其模型可解释，并且不允许使用黑匣子模型。但是在阿姆斯特丹上诉法院面前，当索偿人要求告知32万欧元的估价如何时，市政当局无法回答。不是因为它不想，而是因为它不想。

根据荷兰判例法和GDPR，公共机构必须能够提供导致自动决策的细节和机制。法院注意到该市违反法律，并命令他们支付法院费用。

尽管如此，法院还是开始解释为什么32万欧元的估价是正确的。根据市政当局的论点，法官检查了附近在2016年左右出售的房地产，发现每平方米的价格与通过算法生成的索赔人房屋的价格相匹配。后者抱怨说，他的房屋状况较差，因此价格较便宜；市政当局回答说，此信息已包含在计算中（争论的主要内容是地震破坏的程度）。

对于Radboud大学的助理教授Marlies van Eck来说，他专门研究AI使用的法律方面，荷兰最高法院设定了一个原则，即自动化决策应该可以解释。根据这一原则，应该取消对市政当局的评估。她补充说：“我们现在知道，如果不遵守该原则，就不会产生法律后果。”她对算法观察说，这项决定不会被荷兰最高法院裁定，可能会开创一个先例，即只要法官认为合理的话，法官就可以接受黑盒算法的结果。

凡·埃克女士说，虽然该裁决现在不太可能造成严重后果（申诉人甚至迟来邀请市政当局访问他的房屋），但它可能暗示荷兰行政法发生了戏剧性的转变。从理论上讲，具有法律后果的黑匣子算法在现行法律中是被禁止的，但是阿姆斯特丹上诉法院的做法将使它们被接受。