convex optimization 可以用来做哪些有意思的事情(可以是实验性质)?

理由
举报 取消

读stephen boyd 《convex optimization》四章+,受益良多,又有一种难以言表的感觉。。期望大神推荐可以做的一些实际的切实可感的事情。。orz

2017年12月30日 7 条回复 910 次浏览

发起人:Jiawei Fan 初入职场

机器学习,最近和数学好上了的弱弱。。。

回复 ( 7 )

  1. ccccw
    理由
    举报 取消

    “实际的切实可感的事情”,题主是问凸优化的一些应用吗?

    • 压缩感知(compresive sensing):利用稀疏性求解欠定线性系统。自从压缩感知诞生以来,稀疏性已经成为做优化应用的人的一个普遍共识,大部分优化模型都会用到稀疏性,常见的比如 TV-\ell_1。Wiki: Compressed sensing。这个问题是比压缩感感知更 generalized 的问题,也是工程中经常遇到的,因为线性系统的求解可以被认为是用观测值b估计模型A中的参数x。所考虑的线性系统通常是 ill-conditioned 的,老式的做法是增加 Tikhonov regularization (即\ell_2-norm),新的做法比如用压缩感知,或者依据所考虑的问题构造一个 prior,而为了求解方便以及能得到最优解,这个 prior 通常都是凸的。一般意义上的 image denoising、image deconvolution 都属于反问题。一个非常优秀的例子是 High-quality computational imaging through simple lenses-norm、\ell_2-norm 都有 closed-form 解。这两篇文章也是 Boyd 写的,题主如果 convex optimization 这本书学得七七八八,那么读起来应该毫不费劲的。
  2. li Eta
    理由
    举报 取消

    看样子,题主的意思是做“有意思的事情”。不过题主是不是先要表达一下自己得兴趣所在?别人觉得有意思的事情未必是你认为有意思的事情。

    既然题主已经看过Boyd的《convex optimization》,那对convex也有基本的了解,书里面其实也有过很多实际问题与convex optimization结合的例子。

    建议题主把convex optimization与自己感兴趣的问题结合起来做。把你的感兴趣的问题抽象成目标函数,如果是convex的,则采用convex optimization的各种方法求解,不是convex的可以采用一些relaxation的方法变成convex的问题去求解(也许还能证明与原问题的近似度),即使不能做relaxation,也可以直接对non-convex问题采用convex的优化方法求解,一般也可以收敛到性质比较好的点。如果题主找到的问题足够特殊,可以在对应的领域发表paper,如果题主做的问题非常一般化,甚至可以把完成的工作发表在optimization领域。这都非常有意思。

    此外,提一点,有人提到Boyd写的ADMM和Proximal algorithm的tutorial,其实这两个都是科普文,纯粹用于介绍这两个算法的,连基本的算法收敛速度分析都没有,深入学习勿看此文。

  3. grapeot
    理由
    举报 取消

    可以试试用total variation optimization 做自拍美颜。一个例子在这(非本人照片):

    更具体的介绍可以看我的blog:

  4. Palo Alto
    理由
    举报 取消

    boyd是书总共有三个section。第二个section(第6章-第8章)是专门讲application的。如果想看一些更有意思的例子,其实可以看看课后习题以及他自己网上的additional problem。记得之前看过几篇论文里面直接说这个证明是boyd的书的习题。。。

  5. tensorspace
    理由
    举报 取消

    上面有人提到boyd那门课了。我想说的是如果有幸能参加这么课的考试你会觉得这门课课本习题的脑洞还是不够大。

  6. 谢昕怡
    理由
    举报 取消

    可以的话,下次分享一发condom optimization可以吗。。

  7. 池底鱼
    理由
    举报 取消

    刚好最近在看相关内容,进来膜拜一下boyd

我来回答

Captcha 点击图片更换验证码