0.
\ begingroup美元

我正在研究一个最优化问题。首先,我做了前向训练,将网络作为替代模型,然后冻结输出,并为给定的输出找到输入的最优值。

$ \ endgroup $
5.
  • \ begingroup美元 你好。拜托,看看www.1kvaups.com/help/how-to-必威电竞askwww.1kvaups.com/help/on-topic了解更多关于我们的网站。这里有几件事我不太清楚。你说的“前进训练”是什么意思?你的意思是你像往常一样用梯度下降和反向传播训练你的神经网络,所以,我想,你也有一个标记的数据集?你能更详细地解释一下为什么要用这种方式预测输入吗?此外,你为什么把这篇文章贴上inverse-rl?这和逆RL有什么关系? $ \ endgroup $-nbro 1月20日19:54
  • \ begingroup美元 是的,我以通常的方式训练了网络。我试图将这个预先训练的模型用作我的优化问题的代理模型。现在我正在尝试找到最佳输入,以便最小化损耗函数。为此,我需要找到关于输入的损耗函数的梯度。因此,我正在寻找keras中的任何内置方法,以找到渐变w.r.t.输入。 $ \ endgroup $-Preetz. 1月21日16:52
  • \ begingroup美元 请你编辑你的文章你把这些细节(以及其他你认为有助于理解你的问题的细节)写在你的帖子里了吗?此外,我想指出的是,编程问题在这里是离题的:例如,询问“如何在库Y中做到这一点”是离题的(参见必威电竞www.1kvaups.com/help/on-topic)。在这里,我们专注于理论问题。这就是为什么答案的答案试图为您提供主要的想法或数学方法。 $ \ endgroup $-nbro 1月21日16:55
  • \ begingroup美元 在任何情况下,如果有人知道,如果有人知道,如何在必威电竞特定图书馆做某事,但这不可能是你的主要问题,这是可以的,但这就是在这里偏离主题我说,这种类型的编程问题更适合堆栈溢出。 $ \ endgroup $-nbro 1月21日16:55
  • \ begingroup美元 一旦我完成了输入后,通过简单地添加缓冲层。该层刚刚采用输入,向其添加偏见并给出输出(偏置是培训的,因此而不是优化输入,网络优化偏差)。它为我工作,但我不知道这是最好的方法。如果您需要更多信息,请告诉我 $ \ endgroup $-amin 1月22日12:53
0.
\ begingroup美元

这是一个典型的优化问题。你想要优化功能f(\theta, x) \end{equation}使用固定参数\θ美元(网络权值)和优化变量x美元.该方法通常包括选择搜索方向和方向步骤。为了决定搜索方向,你可以使用目标相对于决策变量的梯度,并有一个更新的形式\ begin {arearation} x = x - \ alpha \ nabla_x f(\ theta,x)\ end {arequation}在哪里f(\ \美元nabla_xθ,x)美元是渐变。您还可以使用牛顿或Quasi-Newton形式方法\begin{等式}x = x - \alpha B^{-1}\nabla_x f(\theta, x) \end{等式}在哪里B美元是一个Hessian还是近似的Hessianf(\θ,x)美元关于x美元.步长参数通常是通过线搜索确定的,或者你也可以使用信赖域方法来确定步长方向并限制其长度。有关优化的更多细节,您可以咨询数值优化诺塞达尔和赖特的作品

$ \ endgroup $
1
  • \ begingroup美元 谢谢,我正在尝试通过使用梯度下降来优化。但是,我正在寻找keras中的任何内置方法,以计算损失函数w.r.t.的梯度。输入。 $ \ endgroup $-Preetz. 1月21日16:54

你的答案

点击“发布答案”,您同意我们的同意服务条款隐私政策饼干的政策

不是您要找的答案?浏览其他标记的问题必威英雄联盟必威电竞问你自己的问题