商务服务
数据分析---论文代码统计
2024-11-07 23:27

1.5.1普通字符:大写和小写字母、所有数字、所有标点符号和⼀些其他符号

1.5.2特殊字符:有特殊含义的字符

1.5.3限定字符

  • 任务主题:论文代码统计,统计所有论文出现代码的相关统计
  • 任务内容:使用正则表达式统计代码连接、页数和图表数据
  • 任务成果:学习正则表达式统计

数据集来源: https://www.kaggle.com/Cornell-University/arxiv 链接:https://pan.baidu.com/s/1OqUl13fZvLw6Jd49UdDM_Q 提取码:bmd8 数据集的格式如下

数据分析---论文代码统计

  • id :arXiv ID,可用于访问论文
  • submitter :论文提交者
  • authors :论文作者
  • title :论文标题
  • comments :论文页数和图表等其他信息
  • journal-ref :论文发表的期刊的信息
  • doi :数字对象标识符,https://www.doi.org
  • report-no :报告编号
  • categories :论文在 arXiv 系统的所属类别或标签
  • license :文章的许可证
  • abstract :论文摘要
  • versions :论文版本
  • authors_parsed :作者的信息

数据集实例

 

本次项目的任务是使用正则表达式统计代码链接、页数和图表数据。因此我们选择的字段有

  • abstract:论文摘要
  • comments :论文页数和图表等其他信息
  • categories :论文在 arXiv 系统的所属类别或标签

在原始arxiv数据集中作者经常会在论⽂的 comments 或 abstract 字段中给出具体的代码链接,所以我 们需要从这些字段里面找出代码的链接。

  • 确定数据出现的位置
  • 使用正则表达式完成匹配
  • 完成相关的统计

正则表达式(regular expression)描述了⼀种字符串匹配的模式(pattern,可以⽤来检查⼀个串是否 含有某种⼦串、将匹配的⼦串替换或者从某个串中取出符合某个条件的⼦串等。

字符描述[ABC]匹配 […] 中的所有字符,例如 [aeiou] 匹配字符串 “google runoob taobao” 中所有的 e o u a 字母。[^ABC]匹配除了 […] 中字符的所有字符,例如 [^aeiou] 匹配字符串 “google runoob taobao” 中除了 e o u a 字母的所有字母。[A-Z][A-Z] 表示一个区间,匹配所有大写字母,[a-z] 表示所有小写字母。.匹配除换行符( 、 )之外的任何单个字符,相等于 [^ ][sS]匹配所有。s 是匹配所有空白符,包括换行,S 非空白符,包括换行。w匹配字母、数字、下划线。等价于 [A-Za-z0-9_]
特别字符描述( )标记一个子表达式的开始和结束位置。子表达式可以获取供以后使用。要匹配这些字符,请使用 ( 和 )。*匹配前面的子表达式零次或多次。要匹配 * 字符,请使用 *。+匹配前面的子表达式一次或多次。要匹配 + 字符,请使用 +。.匹配除换行符 之外的任何单字符。要匹配 . ,请使用 . 。[标记一个中括号表达式的开始。要匹配 [,请使用 [。?匹配前面的子表达式零次或一次,或指明一个非贪婪限定符。要匹配 ? 字符,请使用 ?。将下一个字符标记为或特殊字符、或原义字符、或向后引用、或八进制转义符。例如, ‘n’ 匹配字符 ‘n’。’ ’ 匹配换行符。序列 ‘’ 匹配 “”,而 ‘(’ 则匹配 “(”。^匹配输入字符串的开始位置,除非在方括号表达式中使用,当该符号在方括号表达式中使用时,表示不接受该方括号表达式中的字符集合。要匹配 ^ 字符本身,请使用 ^。{标记限定符表达式的开始。要匹配 {,请使用 {。|指明两项之间的一个选择。要匹配 |,请使用 |。
字符描述*匹配前面的子表达式零次或多次。例如,zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。+匹配前面的子表达式一次或多次。例如,‘zo+’ 能匹配 “zo” 以及 “zoo”,但不能匹配 “z”。+ 等价于 {1,}。?匹配前面的子表达式零次或一次。例如,“do(es)?” 可以匹配 “do” 、 “does” 中的 “does” 、 “doxy” 中的 “do” 。? 等价于 {0,1}。{n}n 是一个非负整数。匹配确定的 n 次。例如,‘o{2}’ 不能匹配 “Bob” 中的 ‘o’,但是能匹配 “food” 中的两个 o。{n,}n 是一个非负整数。至少匹配n 次。例如,‘o{2,}’ 不能匹配 “Bob” 中的 ‘o’,但能匹配 “foooood” 中的所有 o。‘o{1,}’ 等价于 ‘o+’。‘o{0,}’ 则等价于 ‘o*’。{n,m}m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,“o{1,3}” 将匹配 “fooooood” 中的前三个 o。‘o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。

首先我们来统计论文页数,也就是在comments字段中抽取pages和figures和个数,首先完成字段读取。

 

对pages进行抽取

 

对pages进行统计

 

结果如下在这里插入图片描述 从结果中可以看出,论文的平均页数为18页,75%的论文也输在24页,最长的论文有1958页,最短的论文有1页。 接下来按照分类统计论文页数,选取了论文的第一个类别的主要类别

 

结果如下图所示在这里插入图片描述 接下来对论文图表个数进行抽取

 

最后我们对论文的代码链接进行提取,为了简化任务我们只抽取github链接

 

并对论文按照类别进行绘图

    以上就是本篇文章【数据分析---论文代码统计】的全部内容了,欢迎阅览 ! 文章地址:http://nhjcxspj.xhstdz.com/news/1982.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 物流园资讯移动站 http://yishengsujiao.xhstdz.com/ , 查看更多   
最新新闻
小店随心推凸显三大优势 直击抖音电商用户投放痛点助力经营成长
  近年来,以直播、短视频为代表的电商新业态迅速崛起,在为实体经济赋能赋值的同时,自身也展现出强劲的生命力。其中,抖音电
抖音小店怎么查看收入总额多少
抖音小店是一种通过抖音平台进行销售的电商模式,众多店家在平台上售卖各种商品,通过短视频、直播等方式吸引粉丝,实现销售收入
抖音严审赛道,2个月极速引流增客,登上好评榜top3!
1个月内从0-1打通线上到线下获客核销的全链路2个月时间登上好评榜top3产后康复赛道,究竟如何这样迅速崛起?01产后康复赛道的线
2014网络最有实力的十大红人与网络十大红人资料(全网公正)全网转载!
  第一:网络红人龚心逸龚心逸,福建龙岩人,其2007至2011年一度带领杀马特家族走向网络颠峰。引导中国网络
发出重农强农强烈信号!三个关键词解读2023年中央一号文件
  央广网北京2月14日消息(记者王晶)2月13日,《中共中央 国务院关于做好2023年全面推进乡村振兴重点工作的意见》(以下简称
抖音AI写作作品发布攻略:如何高效展示创作才华
抖音AI写作作品发布攻略:如何高效展示创作才华在数字化时代,人工智能的崛起为创作领域带来了前所未有的变革。抖音作为一款流行
八大类主流工业仿真平台【心累指数】终极评测(上)
有一个神奇的小盒子,只要把各种参数和设定往里面一扔,你想要的仿真结果数据就会自动掉落。——这可能是亿万仿真研发工程师的梦
国家统计局:2024年一季度国内生产总值初步核算结果
原标题:国家统计局:2024年一季度国内生产总值初步核算结果根据有关基础资料和国内生产总值(GDP)核算方法,经初步核算,我国2
北京协和医院:患者APP开启“互联网+”就医新体验
一、案例概要为深入贯彻落实习近平主席新时代中国特色社会主义思想和党的十九大精神,推进实施健康中国战略,提升医疗卫生现代化
五大关键词 解读政策利好(图)
漫画:牛力5月,省政府出台首批支持中小微企业发展的15条财政措施。措施一经发布,立即在社会上引起广泛关注。这些措施出台的背
本企业新闻