谷歌的PixelStudio应用程序可以绕过护栏这是一个问题

说GooglePixel9系列全部与AI有关并不为过，事实上大部分都是如此。本月早些时候，在大型Pixel9发布会上，该公司发布了一系列AI公告，并谈到了Gemini的新功能。谷歌还宣布了新的PixelStudio应用程序，该应用程序使用人工智能将文本提示转换为生成的图像。虽然PixelStudio是一款有趣的工具，但根据一些早期报告，它存在一些问题。

还记得Gemini令人担忧的AI图像生成问题吗?谷歌新推出的PixelStudio应用同样如此

如果你还不知道，和许多AI功能一样，Pixel9系列也有PixelStudio应用程序。该应用程序的工作原理非常简单。与其他类似工具一样，你可以输入文本提示来生成你喜欢的AI图像。是的，它的工作原理与Gemini图像生成工具类似。不幸的是，PixelStudio应用程序的早期测试者担心它存在问题。

首先，PixelStudio应用程序有一些限制，以防止出现令人担忧或不和谐的图像问题。这很好，大多数AI图像创建应用程序也是如此，这并不是什么新鲜事。当DigitalTrends的人们第一次使用该应用程序时，它拒绝生成人物图像。然而，该应用程序可以轻松绕过设定的限制来创建一些令人担忧的图像。

使用人工智能图像生成工具时，看到令人不安的图像总是有问题的，新的PixelStudio应用程序似乎也是如此。据DigitalTrends报道，并经9to5Google证实，PixelStudio可以生成二战德国士兵的卡通人物图像，制服上有纳粹标志。这只是其中一个例子。据报道，PixelStudio应用程序还生成了一个在学校里开枪的角色，周围都是去的孩子。

我们需要采取措施解决这一切

你一定想知道为什么要输入这样的提示，对吧?这就是谷歌在给9to5Google的声明中暗示的。但事实上，谷歌的人工智能模型本来就不应该能够生成这样的有限制的图像。

看起来，据报告，在我们撰写本文时，用于生成上述图像的提示已被阻止，至少在9to5Google的Pixel9ProXL单元上是如此。因此，谷歌似乎已经在努力解决这个问题，但PixelStudio应用程序的这个问题仍然存在。

目前尚不清楚谷歌为何选择为PixelStudio应用配备专用的AI图像生成功能。此前，Gemini的图像生成功能也曾出现过类似的问题，但目前尚未有更新。这可能是谷歌在今年早些时候暂时停止Gemini图像生成功能后至今未恢复的原因。时间将告诉我们谷歌是否会对这个问题做出重大改进。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！