登陆注册
24662100000099

第99章 大数据分析,数据驱动发现

大数据分析,数据驱动发现是计算机技术,统计学,数学的综合应用。

科学范式的改变:1实验或者测量2分析理论3数值模拟4数据驱动。生物就停留在1和2之间。天文学当初产生的数据使得开普勒三大定律和万有引力定律成为可能,理论上,只要单个数据点的成本足够低,我们可以产生大量的数据用于模式识别。复杂的现象需要复杂的数据来理解,提取出模式之后如同公理化体系的构建一样来逼近现实情况。我的野心并不大,能够使用生物信息来解释生命就可以了。具体的应用可以有疾病生物标记物的发现,疾病相关基因的发现等等。

发现目前工作的局限性Challenge,细化到可以解决的层次—提出可能的解决方案solutions,最后集成起来。这是计算机科学的分而治之Divide and conquer。如此反复,如同迭代,数学的演绎,不断开阔人类的认知边界。机器学习算法也是需要各种反馈来进一步修改参数直至收敛到最优解(如梯度下降法)。

科学发现工作流程:收集处理管理分析1收集数据即实验或者观察2数据整理,以一定的定义好的形式来组织如数据库3数据挖掘,各种相关性的构建,个人认为可以通过贝叶斯推断一样的机制来在一些相关对象的组合中构建起高概率的相关性,可以理解为高维关系的构建是底层关系的累加(微积分基本定理),以分析数学的思路是在这些复杂对象中总存在这种确定性的关系(不动点,如中值定理)4数据理解,整合到具体的背景5新知识

数据挖掘的方法包括重要的机器学习算法等等,有非监督学习算法如聚类,降维等等,有监督学习如分类回归等等,还有其他的算法如神经网络算法,以及进一步的深度学习。

讲座1:模式识别

万物皆有理,这是我们的信仰,可以理解为一种对关系存在的一种假设。然后就是具体地寻找这种关系,即所谓的模式识别。具体的方法有许多,如分类,回归,更具体的实现有最近邻居法,KNN 等等。

模式识别其实就是对特定函数的构造,如回归方程的数学解析式y=ax+b,,在假设这些函数的存在之后的构造,就是对参数的确定,使得与真实情况的对比能够维持比较低的误差(误差低于一定程度视为等价),还有各种指标如正确率,召回率等等。

核方法kernel,本质上也是构造一定的函数来满足一定的需求。

我们可以以足够高维的空间,即每个数据点都具有多个属性,来对现实情况进行建模。理论上可以是无限维的,从而对一切都建模。但是这是没有意义的,因为我们的计算资源不足以支撑,而且我们认为有意义的属性的数量和重要性是呈现幂律发布的,即只有少部分的指标具有更大的重要性。因此降维处理势在必行。这与线性代数的线性无关基地的分解相似,都是以最少的损失来存储数据。比如说PCA主成分分析。也可以理解为特征值/向量的提取。

算法的计算需要对特定指标的选择和计算,必须是可量化的,这样才可以更新各种参数,从而收敛停机。如人脸识别,就是通过相关指标的计算来推断哪些区域更可能是目标区域。

讲座2:机器学习介绍

应用的广泛性。本质上是经过训练找到一定的函数或者分类器,能够应用于泛化的数据。

自动编程机—人工智能,从一开始的硬编程,即编码所有规则,在发现其不可能的基础上探求软编程,通过数据学习,对于特定的任务task T ,有一定的测量指标performance measure P ,其能够根据经验experience P 来不断改善。如垃圾邮件识别,医疗诊断,广告推荐等等。

大数据:volume 大量数据,velocity产生速度快,variety多样性,veracity, value价值,从数据提取知识。

对于不同问题,应该选择不同的算法,不存在万能算法包打天下,必须综合考虑得和失。虽然深度学习有这个潜力。我们的目标在于发现生物的不显著效应,如转录的多个影响因素组蛋白乙酰化,转录因子的相互作用等等,并挖掘可能的工作机制如相关蛋白质的作用。

讲座3:数据—数据模型—数据库

数据—信息—知识—原理,金字塔的结构,数量不断减少,但重要性不断提高。

讲座4:神经网络在各个领域发挥重要作用,如语音图像识别,推荐系统,社交网络等等,我们尤其注意其中生物的应用,比如说基因表达芯片的数据分析等等。数据—模型—计算能力的结合,使得我们能够挖掘出统计层次具有意义的模式,能够与一定的生物机制构建相关性。可以有探针式的输入,在库找到相关性的团体。

神经网络的训练需要大规模的矩阵运算,复杂度很高,需要采取一定的优化措施来加速运算:低秩近似Low rank Approximation,网络pruning,scalar or vector quantization .

矩阵分解可以减少计算量。稀疏矩阵,降低储存量。不动点节约存储量,运算时间等等,这是一种存在性的假设和改造。相当于将进行先验的概率进行运算,能够更快地收敛到目的最优解。

深度学习:特征提取—Metric学习—分类

同类推荐
  • 传奇法师的绅士传说

    传奇法师的绅士传说

    推荐一本书《我的美少女队员们》:陈小楠阴差阳错的穿越到了这个世界,与此同时,一个莫名其妙的“生涯模式系统”开启了。这个系统扬言要帮陈小楠制霸LPL,面对系统残忍的任务惩罚,无奈之下,一个把LPL搅得腥风血雨的战队就此诞生了。然而,对于陈小楠来说,真正要命的不是系统发布各式各样的任务,而是每当入夜后他的美少女队员们的敲门声……ps:这本书讲的是经营一个战队的故事,即便你完全不懂LOL,也可以当做普通都市文来看,无雷无郁闷,包爽。
  • 天戒主

    天戒主

    这个世界真的有神仙?为什么看了老头子的遗物就倒霉地招雷劈了!穷鬼吗?野种吗?就让我这屌丝逆袭了一中校花!我的目标是逆袭美女,打击恶霸!
  • 悬空山

    悬空山

    一个苦逼的设计师量房时意外坠楼身亡,穿越到奥罗大陆一个小贵族家庭,而且还是个聋哑人...习得前世坑人设计宝典里的悬空决,组建个性组织悬空山,纵横异界大陆,快意恩仇、热血激昂。故事纯属虚构,如有雷同纯属巧合。
  • 禁忌夺神

    禁忌夺神

    “取神魔造化,凝天地大势,成就神胎……”江渔眼中隐隐闪现魔性,沉吟一声。“这门法诀,究竟是被谁所创……已然魔之极致,似梦似真!”……丹武,转生,绝世,大圣,仙人。五大秘境,一步一步,登临绝巅。
  • 邪逆仙途

    邪逆仙途

    苍天,你欲灭我,那我便在灭我之前逆了你,所以我弑天;命运,你欲灭我,我偏要在你安排下逆出我自己的命运,所以我要把命运掌握我自己的手里。任凭你捉弄我,我誓要逆你!
热门推荐
  • 半烟之爱

    半烟之爱

    他叫蝎子,她叫葡萄。他们的爱情只有人羡慕,却没有人祝福。像夕阳一般的,多少人曾赞美过它的美丽,却遗憾于它的短暂。在这半烟之路上,等待与思念会很痛,但相见又是多么的幸福!就这样,他们守护着这份凄美的爱,忍受着常人所不能忍受的痛,月光下,是他们的誓言:“只爱你,地老天荒,生死同契!”
  • 狂傲皇后:冷帝暖一心

    狂傲皇后:冷帝暖一心

    她是叱咤整个世界的天才医生,著名特工组织的王牌毒药师。却在研制毒药时意外爆炸到一个不明王朝。她是相府三小姐,却是顶着太子妃称呼的天下第一丑。痴傻?草包?“得罪我的人都必须死!”姨娘恶毒,姐妹卑鄙,未婚夫厌弃,欠我的统统还回来!他是整个王朝神一般的存在,冷傲不羁,人称修罗,唯独对她百依百顺,笑眼如花。“南宫,你在撬你皇侄的墙角。”“本王不是撬,本王是抢!只有本王可以给你幸福!”大腹黑配小腹黑,烧杀抢掠,一起为祸世间!
  • 无则

    无则

    这是一个绚丽的世界,九州三域,三域三族,攻击方式尽皆不同。圣域人族:诡异守墓人、近战噩梦夺能者、兵器多变圣战士、千里夺命御剑流、广受尊敬圣师。妖域妖兽族:飞禽走兽变异兽,兽兽都凶猛。魔域魔族:金木水火土五系魔法与特殊系魔法,无论何法都强大。
  • 最强之武帝

    最强之武帝

    问苍天,世间可否有仙?踩大地,天下可有我敌!吾欲疯狂,扫尽天下英豪!吾欲冲天,脚踩世间高峰!风尘漫天,衣袂飘荡,纵横四海,一曲高歌,荡尽天涯……
  • 三国之最霸王

    三国之最霸王

    霸王临世!!!霸王临世!!!霸王临世!!!霸王临世!!!
  • 呆萌邪王嚣张妃

    呆萌邪王嚣张妃

    黎熙言身为黎家大小姐,最爱小动物,某日出门带回个白狐狸,谁知,竟和敌国国君扯上了关系。国君一身白衣,迎风而立,怀里抱着个小妖孽,“熙儿,玩够了吧,决定要和本王回去了?”“不行,我到现在还不懂,你们到底谁是我相公。”“噗”旁边的紫衣男子,和黑衣男子笑出了声。“丫头,怎么总忘了……”
  • 尸夜

    尸夜

    我和老齐因债主相逼,踏上了盗尸者不归之途,每当夜晚,我们蜷缩匍匐在九阴炼尸阵之下痛苦煎熬,终有一日我们重获自由,却猛然发现尸阵之后隐藏着惊天秘密……
  • 彼岸依梦

    彼岸依梦

    他们的爱可以不计生死,可以不计权力地位,可以不计千年孤独。千年之前,幽兰为了萧敬峰灰飞烟灭,他为她被困千年。千年之后,物是人非。月葵,一个与幽兰长的一模一样的人,他与她的相遇是偶然,还是命中注定。明明是她,却又不是。人与神,就这样纠葛在了一起。为了寻求答案到鬼城,到北疆……一步步走来,是是非非,他到底爱的是谁?第一次遇见就让她不自觉的流泪,十七年从未流过泪的人,却因为一个陌生而流泪。真的是命中注定的吗?明明知道他的心中只有幽兰,却还是为什么不自觉的随他而去。
  • 黑篮之彼岸奇迹

    黑篮之彼岸奇迹

    某次在小区公园看到学生打篮球而突发奇想的文。本文与《黑篮》正剧无关,时间、地点皆为架空,人物名字做过修改,人物性格上与原著也是有偏差的,所以不喜者勿入。PS:以阿征为主线,耽美向,CP未定。尉迟征也郁闷了,从开学第一天开始他遇到的都是非常莫名其妙的事情。上车就遇到了扒手,下车就多了一个死气白咧的跟班,这还不算什么,军训时白白得了个班长头衔,上个体育课还能莫名其妙的加入篮球队,之后遇到的人一个比一个二缺,好吧,这些都是青春的序曲吧,尉迟征认了……
  • 无敌悍女邪魅男

    无敌悍女邪魅男

    一个叱咤风云的黑道女罗刹,一个俊美绝伦的暗夜妖孽男,一段交锋似的初见,只是一句“你真菜!”结下一段不解之缘,男妖孽腹黑狡诈阴险,女罗刹自恋贪财好色,到底是谁在养谁?到底是谁在主沉浮?