GithubHelp home page GithubHelp logo

yougrianes / gulou-blackboard-3d-reconstruction Goto Github PK

View Code? Open in Web Editor NEW
0.0 2.0 0.0 75 KB

此项目使用传统方法,利用互联网收集的图片,对南京大学鼓楼校区的南园教学楼花坛前侧的黑板进行3d重建。

License: GNU General Public License v3.0

gulou-blackboard-3d-reconstruction's Introduction

gulou-blackboard-3d-reconstruction

此项目计划使用传统计算机视觉方法,利用互联网收集的图片,对南京大学鼓楼校区中南园教学楼花坛前侧的黑板进行3d重建。

这是一个个人的兴趣项目。欢迎有兴趣的同学一起参与到项目的讨论和开发。工作很忙,下班和周末有空会写一写,项目进展不定期。

这个项目使用GPL3.0开源协议,还请知悉。若需要使用代码,请遵守开源协议相关的约束,这将是对开源和自由软件文化的帮助。笔芯~

Introduction

最近学校的鼓楼校区南园的黑板被拆掉了,心里还是蛮难受的。正好自己所做的工作是计算机视觉相关,所以想着能不能在自己的专业上为学校的同学老师们帮一些忙。

众所周知,计算机视觉的应用是很广泛的。其中一个比较常见的应用是利用立体视觉进行三维重建,例如对一些文物进行数字存档和实地测量。在几年前的巴黎圣母院失火事件中,育碧在其制作的游戏:Assassin’s Creed Unity中,对巴黎圣母院的建模也一定程度上对文物的信息起到了保护作用。取决于实地测量和对信息进行存档的精细程度,倘若文物因为人为或者是自然灾害(如地震、洪水、酸雨、闪电等)而受到损毁,这些珍贵的数字信息将对文物修复与重建工作提供宝贵的参考资料。

通常来说,这些勘探与测量工作是专业而且复杂的,但随着现在获取信息的日渐便捷,例如互联网图片等,这些蕴含着大量有用信息的资料应当被有效的利用起来。计算机视觉中的三维重建领域中的技术,例如从运动到结构(Structure-from-Motion)、多目视觉下的相机参数恢复、点云匹配等,是一个可以尝试的方式。本项目想要做的事情是通过网络上能够获取的图片以及其他渠道的资料,对现在已经损坏的鼓楼校区的黑板进行三维重建,抢救性的还原一些原始信息。在工作实时进展的基础之上,希望能够基于三维重建得到的网格模型或点云信息的基础之上,进行三维建模的工作,从而得到一个完成度比较高的3d模型。

其实,在三维重建上,最近已经有一些基于深度学习的方法。这里我之所以使用传统方法的原因,一方面是在立体几何上练练手,另一方面是我对可微模型或者点云不是特别熟悉。在传统方法的部分开发完成之后,我会尝试使用一些神经网络的方法。

我当前的预期是这个模型应该是一个可以被例如3dmax、blender等三维建模软件可以兼容和导入的格式,从而为后续的工作留下更多的可能性,例如用来构造一些环境场景,并且引入一些交互。这通常用在例如游戏的地图环境渲染之中,等等。这些工作已经有比较成熟的应用,有成熟和开放的软件可以使用。这种方法应该不仅是黑板,而应该是一种可以运用到多个场景中的工具或者通用方法。

实验原理

计算机视觉中进行三维重建有多种方法可以做到。有双目视觉方法。但是这需要我们拥有使用双目相机拍摄得到的照片对,并且了解两个相机各自的相机内参,以及两个相机彼此之间的相机外参转换关系。对于互联网图片而言这个是一件比较困难的事情。所以双目几何不太适应这里。

得到三维点云之后,可以使用Delaunay代数的三角划分算法来将离散的点云坐标转换成三维面片。 TODO:如何得到对应的Texture?

设计方案

预期的输入:

  • 一定数量的图片。最好是包含RGB三个颜色通道的彩色图片。有标定参数最好,但是通常来说是没有的。
  • 有连续图片的视频流。颜色是彩色的。

预期得到的结果:mesh with texture

论文引用和参考资料

http://media.gisera.com/jsjl/show/329.aspx

Y. Furukawa, J. Ponce, Accurate camera calibration from multi-view stereo and bundle adjustment, Int. J. Comput. Vision, 84 (2009) 257-268.

https://zhuanlan.zhihu.com/p/76047709

Occluding Contours for Multi-View Stereo, http://grail.cs.washington.edu/projects/sq_rome_g2/

https://zhuanlan.zhihu.com/p/158097602

gulou-blackboard-3d-reconstruction's People

Contributors

yougrianes avatar

Watchers

 avatar  avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.