谷歌 AI 的可操作性可能有很多优点，但也有一些缺点。这反映在最近经常抱怨用户被标记为“无所事事”。旧金山的一位全职父亲被谷歌禁止使用，因为他使用安卓手机拍摄儿子腹股沟感染的照片，以便告知医生他孩子的病情。结果，谷歌人工智能将这些照片标记为儿童性虐待材料 (CSAM)。他立即对该决定提出上诉，但 谷歌不仅无情拒绝，还标记了他的其他视频和照片。为此，旧金山警察局展开了调查。

谷歌人工智能

推特上已经对这个问题进行了长时间的讨论。虽然有些人声称这是对隐私的侵犯，但其他人则表示他们宁愿严格也不愿放手。一位妇科医生对他工作所需的一些图像表示担忧。

据报道，父母担心儿子的腹股沟肿胀和难以忍受的疼痛。在第二天接受视频就医前，妻子拍了几张儿子腹股沟感染的高清特写。这些影像最终根据护士的建议上传到医保系统。为了便于医生根据照片进行初步诊断，父亲在妻子拍照时，用手指指了指儿子的不适。在照片的帮助下，医生诊断并开了抗生素。

儿子的病好了，父亲的烦恼来了。 两天内， 父亲的谷歌账户因“严重违反谷歌政策且可能违法的有害内容”而被禁用。“有害内容”包括“儿童性虐待和剥削”。可能，谷歌人工智能认为这些图片是儿童色情，因此被禁止。

更多灾难性的事情还在后面。父亲 (Mark) 是Google的重度用户，从同步日程安排到备份照片和视频，他的 Gmail 帐户都依赖他的 Gmail 帐户。但就因为这个可笑的乌龙，多米诺骨牌效应接踵而至——他被谷歌全网封杀。他无法访问他的电子邮件、联系人、照片，并且他的 Google Fi 帐户被关闭(这意味着他必须去另一家运营商获取新的电话号码)。通过法律程序起诉将花费大约 7,000 美元。“嗯……我不认为它值 7,000 美元，”马克说。