由于AI法案在1月下旬正式采用，因此我已经纠结了几条规定。他们中的一些人调节情绪识别技术，这使我承认比我最初预期的要纠结。也许我只是在寻找一个借口来研究一些我个人最喜欢的话题：人类心理，动机和操纵。无论如何，我发现了许多新颖有趣的技术，但很失望地发现对他们提出的问题的法律分析要少得多。随着仓鼠的脑海继续旋转，我忍不住自己，但写下了一些东西。
该系列的情感是按照以下方式计划的：我将首先设置现场，以想象（扫描）简（扫描）Jane生活中一个早晨的假设（尽管已经更大程度地）。然后，我将描述可用于使这种假设情景成为现实的技术，并引用专利和论文，证明我的主张已经存在于扫描的Jane可能存在的某个地方。第一部分的目的是证明技术可以走多远，并希望使读者想知道场景从乌托邦到反乌托邦的哪个时候。至少对他们个人。
在以下续集中，我将分析虚拟场景的法律情况。希望有助于证明保护个人的一些差距在我们的法律框架中持续存在。我将通过重点关注GDPR提供（或缺乏保护的保护，最近采用的数据法案）和即将进行的AI法案来做到这一点。关键是：这些法规在保护个人免受（潜在的）最有用的（同时最容易被滥用的技术）上的某些（可能是最容易使用的技术）上失败。尤其是当这些场景（诚然类似于黑色的麦片）场景中，这些情况结合在一起时。
当我在《旅途中》中发展该系列的想法时，我不知道到底可能会带我去哪里。尽管如此，如果您也准备好一些危险的猜测，并搭配牵强的索赔，并在顶部撒上一些法律分析，跳上并享受旅程！
绘画图片：（扫描）简（Jane）生命中的一个早晨
简睁开眼睛。她需要一两秒钟才能弄清楚她在哪里。哦，好，这是她的房间。
（这是什么日子，我什至必须起床吗？）
她的手伸到侧橱柜上，感觉到她的眼镜，并把它们放在头上。
- 早上好，简！ - 一个柔和的女性声音说。
- 看起来您睡得不好。 - 声音仍在继续 - 您可能应该考虑购买新的人体工程学床垫。我在网上发现了12个非常适合您的。我可以为您设置一个提醒。还是我应该根据用户评论订购具有最佳价格/质量比率的？ - 声音停止。
- 只需点订单 - 简听见自己在思考这些话之前就喃喃自语。 （毕竟是这么早。是什么？
- 是2027年7月12日星期日，上午8:30。今天也是你母亲的生日，我给她买了您想要的古董中国花瓶。 - 短暂的停顿 - 您应该在12岁之前离开房子，因此您可以及时地离开房屋。天气将晴朗而温暖。
- 哦，对 - 简对自己想。 - 是的，谢谢，我现在起床。
（嗯..我想我确实有点累。这是一件好事，我要订购新床垫，我可能需要它。等等，我不记得为妈妈挑选任何花瓶吗？）
- 一切都好吗，您看起来很担心吗？ - 再次声音。
- 哦，是的，我只是想知道花瓶。我不记得选择它。
- 您没有，您忙于工作，所以我为您选一个。
（哦，是的，现在我记得了。）
- 您的咖啡在厨房里等着您。我会放一些乐观的音乐，它可能会帮助您起床并为生日聚会带来欢快的心情。
- 太好了谢谢。 - 简慢慢地前往厨房。
（我在哪里留下电话？）
- 您的手机在浴室里，昨天晚上您洗个澡，然后上床睡觉时没有随身携带。
- 正确的…。 - 简（Jane）前往洗手间，拿手机，并打开分析应用程序。
（有趣的。）
她的应用显示她在夜间有多次脉搏增加，并且移动了很多。
- 是的，您度过了一个很艰难的夜晚 - 这次的声音持续了，以一种稍微担心的语气 - 您可能应该考虑去看医生。我查找了您的症状，某些非处方药也可能有所帮助。你要我订购吗？
简现在开始感到自己有些担心。
- 好吧，我不知道……是认真的，我真的应该去看医生吗？
- 我可以订购药物，并保存医生清单，以防您继续睡眠不好。可以吗？
- 是的，我想这听起来很合理。
- 太好了，这种药物正在途中，明天将到达这里。现在您可以放松并喝咖啡。我还准备了一份新闻清单，可能会让您感兴趣，出租车将在这里赶到您的母亲15至12岁。
（完美的！）
简就去咖啡了。上帝知道她需要它。几秒钟后，简就惊讶地发现自己最喜欢的咖啡杯只有一半。
- 嘿，露西，为什么我的杯子只有一半？
- 好吧 - 声音仔细开始 - 您昨天将设置锁定，使每天喝咖啡的数量减半。你说这会让你抖动。
（我吗？哦，对...好吧，我想那是正确的电话。）
简打开冰箱，再次惊讶地发现里面没有牛奶。现在已经烦恼的简的了：
- 为什么冰箱里没有牛奶？
- 您还说，从现在开始您只会喝黑咖啡，以帮助您减肥。 - 现在的声音听起来很担心 - 您还说无论您告诉我什么，都不要更改这些设置。
简现在完全困惑。
（我真的这么说吗？）
- 不，我敢肯定我从未说过。
- 确定你有！还记得两天前，当您在购物中心尝试那条裙子时，您在镜子里看着自己吗？
（嗯……我不记得说过，但是我对那条裙子的外观肯定不满意……也许我毕竟说了吗？夏天。但是，哦，我真的需要另一杯咖啡……）
- 如果您在咖啡后仍然感到疲倦，我还订购了感觉很好的药丸，以帮助您充满活力，而不会让您感到不安。他们在冰箱旁边的橱柜里。
- 哇，有时就像您可以阅读我的想法！
- 我很高兴能得到帮助，让我知道是否还有其他我可以帮助您的！
简现在只有一半的声音。
（哦，我知道获得这个聪明的分析包是一个好主意！）
[简从未说过她不想再喝牛奶喝咖啡，也不想将咖啡因摄入量减半。但是，前几天她确实感到非常痛苦，并在同一天对她的朋友说，她需要尽快减肥，并且应该停止“喝卡路里”。她确实也很难入睡，只有高咖啡因的摄入量才会变得更糟。露西还应该做什么？]
科幻很符合现实的地方
在一个人到另一个人之间，前面描述的方案变得越来越吸引人和更担心的特定点会大大差异。虽然有些人会很乐意将太多的日常生活留给算法，但另一些人可能会想知道所描述的场景可能会产生的控制和非人性化效果。当涉及绘制线条并确定不能或不能容忍什么或不应该容忍什么时，做出这些决定的时钟是缓慢而稳定的。
在我们扫描的简和她的好朋友互连的，全知的AI Lucy的假设早晨（与电影的关联是非常有意的），这一点根本不可能令人难以想象，以至于所描述的场景很快就会成为现实。智能手表测量所有类型的活动并处理整个身体数据（包括血液采样）并不是什么新鲜事物。也没有可能在多个设备上连接所收集的数据流。 （只要考虑到至少可以追溯到1999年的物联网（IoT）的事实。）“高质量睡眠”背后的科学也越来越可预测，因此也可以调节。如此之多，以至于您甚至可以连接传感器，以使免费数据流到您的“智能床垫”，然后调整温度，牢固性和其他功能。最后，所有收集的数据也已经可以帮助您的设备预测您的心理和认知状态（甚至可以通过特殊的智能眼镜跟踪您的眼睛运动和脑电波）。然后，这又使您可以为改善病情采取的行动提供建议，同时也可以帮助医务人员提供更好的治疗方法。从那里开始，基本上是连接所有有用数据的婴儿步骤，将其与智能眼镜收集的数据相结合，并具有超级个性化的预测和建议。然后，眼镜还允许无缝的用户体验。当然，所有最新的智能眼镜还具有完整的Internet访问权限和自己的AI驱动智能语音助手，以基本上充当您的意识。 （或者也许代替它？）最后，当然，如果您给他们必要的许可，则语音助手既可以为您做出决定，也可以执行这些决定。并对他们的决定有足够的信心。更不用说智能冰箱已经可以为您购物了，并且可以自己全部优化您的健康和营养。
我们愿意投降这些技术的意愿通常取决于我们对技术的亲和力以及我们愿意屈服的控制量。 （以及在描绘的情况下，缺乏自我控制无法真正完成我们的决定。）我肯定我不会很快就能解决这些技术，但是我'某些人会。我也认为，应该有一些类似于人类的尊严和选择自由，我们永远无法（甚至是故意）放弃。或者永远不应该屈服。目前，这似乎不是主要的心态。
那么有什么大不了的？
现在，对于百万美元的问题：有什么大不了的？简对这项技术感到满意，而不必担心那天，她将在生日生日那天让母亲或减肥，只要她失去了体重。每个人都可以自由做出自己的选择，这项技术在这里为我们服务，所以为什么我不能让它成为现实呢？
我本人很有一点点与类似的问题作斗争，我可以提供几个要点，特征，事实或您想称呼的任何东西的唯一答案。
- 不可否认，我们的环境对我们作为个人产生了很大的影响。但是，与其他人表达意见的人相比，这些技术无形地起作用。我们经常不知道他们正在做任何事情会影响我们的事情。他们将我们锁定在过滤器气泡中。他们塑造或重申我们的信念。而且我们对此无能为力。您如何与基本上是自己脑海中的声音作斗争？
- 尽管有些人在潜意识改变其行为的技术上没有问题（只要它正在更好地改变它们），但这不是普遍现象。我们都应该有权决定如何塑造我们的意见，信念和决定，并以后能够改变我们的决定。
- 这些技术在培训算法所需的数据处理方面提出了多个道德问题，以及他们生成其假设和预测所需的数据处理，最后，关于它们可能造成的效果。这些问题已经证明了超级智能手表，冰箱，手机，汽车和眼镜（尤其是当它们一起工作时）的关注。人们可以同意什么行？更确切地说，我可以同意一种算法下意识地操纵我吃得更健康吗？许多人会在心跳中与魔鬼签约，以使他们的智能手表和冰箱合作，并且在“花费”所有卡路里或时钟滴答作响后，他们不让他们打开冰箱。对其他人来说，这听起来像是在情节扭曲之前的黑色镜子发作，使有用的技术完全反震动。
- 考虑到我们面临的这些新的道德困境，我们还需要建立新的权利吗？我们都应该有权失去控制权并违背对我们有益的东西吗？即使他们违反我们的一般偏好，也要做出自己的决定？如果我们有反对目标怎么办？我们如何处理提供技术或依靠他们提供的数据的各种参与者的商业利益？
- 我们与演员有什么关系，希望将这些技术用于恶意目的？人们一直很容易欺骗，并且如果可能有助于声称自己的议程，则使用操纵有弱点。除了商业利益和获得超级人性化广告的“危险”外，如果国家开始使用这些系统来声称现有的政治制度，会发生什么？ （中国你好），如果我们甚至不知道我们首先被操纵，我们该如何与操纵作斗争？我们将足够信任社会上的哪个演员对这些系统进行监视及其使用？
该博客系列的假设是，当前的法律不足以应对许多（如果不是全部）这些问题以及它们对个人和社会的新颖风险。该系列将首先试图通过将场景与GDPR，然后是数据法以及最后的AI ACT进行比较，以说明为什么是这种情况。希望通过适用的法律框架的镜头分析这些问题，我们可以识别一些差距，并通过如何尝试结束它们进行集体思考。
祝我们一切顺利！