GPT-4成学术造假“神器” 伪造数据又快又合理

快科技官方2023-11-23

学术造假有了GPT-4，变得更容易了。这两天，一篇刊登在Nature上的新闻表示，GPT-4生成的造假数据集，第一眼还真不一定看得出来。除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。这个新闻的来源是一篇发表在JAMA Ophthalmology上的论文。论文使用GPT-4为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2385264337?lang=zh_CN&edition=full","thumbnail":"https://k.sinaimg.cn/n/spider20231123/162/w600h362/20231123/2283-3b075c259652441158493672f236dd3d.png/w120h90l50t164a.jpg","is_english":false,"pubTime":"2023-11-23 14:42","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2385264337","market":"hk","top_or_hot":-1,"title":"GPT-4成学术造假“神器” 伪造数据又快又合理","media":"快科技官方","content":"<div>\n<p>学术造假有了GPT-4，变得更容易了。这两天，一篇刊登在Nature上的新闻表示，GPT-4生成的造假数据集，第一眼还真不一定看得出来。\n\n\n\n\n除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。这个新闻的来源是一篇发表在JAMA Ophthalmology上的论文。论文使用GPT-4为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的...</p>\n\n<a href=\"https://tech.sina.cn/mobile/xp/2023-11-23/detail-imzvqtut4584967.d.html?vt=4\">网页链接</a>\n\n</div>\n","source":"sina_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>GPT-4成学术造假“神器” 伪造数据又快又合理</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nGPT-4成学术造假“神器” 伪造数据又快又合理\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-11-23 14:42 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.sina.cn/mobile/xp/2023-11-23/detail-imzvqtut4584967.d.html?vt=4><strong>快科技官方</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>学术造假有了GPT-4，变得更容易了。这两天，一篇刊登在Nature上的新闻表示，GPT-4生成的造假数据集，第一眼还真不一定看得出来。\n\n\n\n\n除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。这个新闻的来源是一篇发表在JAMA Ophthalmology上的论文。论文使用GPT-4为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的...</p>\n\n<a href=\"https://tech.sina.cn/mobile/xp/2023-11-23/detail-imzvqtut4584967.d.html?vt=4\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":null,"symbol_name":null,"start_time":0,"source_url":"https://tech.sina.cn/mobile/xp/2023-11-23/detail-imzvqtut4584967.d.html?vt=4","article_id":"2385264337","we_media_id":null,"thumbnails":["https://k.sinaimg.cn/n/spider20231123/162/w600h362/20231123/2283-3b075c259652441158493672f236dd3d.png/w120h90l50t164a.jpg"],"rights":{"source":"sina_tech","url":"https://tech.sina.cn/mobile/xp/2023-11-23/detail-imzvqtut4584967.d.html?vt=4","rn_cache_url":null,"customStyle":"body{padding-top:10px;}.art_tit_h1{#titleStyle#}a{#lv2TextColor#}.art_time, .art_cite{#sourceStyle#;} .art_cite{margin-left: 3px;}.weibo_user{#sourceStyle#; margin-bottom: 0; display: inline-block;}.weibo_time{#sourceStyle#};","selectors":".module-article, article","filters":"header, .voice2, .tags, #norm_qrcode_link_auto, .unfold-box, .action, .j_float_wbro, .j_article_wbreco","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2385264337","pubTimestamp":1700721771,"columns":[],"sourceInfo":{"source_id":"sina_tech","name":"新浪科技"},"weMediaInfo":null,"summary":"除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。论文使用GPT-4为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的论文观点。随后，再设定了一系列统计标准，如要求GPT-4生成的术前和术后数据产生统计学上的显著差异。","collect":0,"end_time":0,"defaultTopTitle":"sina.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{},"translate_title":"GPT-4% academic fraud \"artifact\" forgery data is fast and reasonable","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"GPT":1},"content_text":"学术造假有了GPT-4，变得更容易了。这两天，一篇刊登在Nature上的新闻表示，GPT-4生成的造假数据集，第一眼还真不一定看得出来。\n\n\n\n\n除非请来业内专家仔细对数据集进行评估，才能发现个中细节的不合理性。这个新闻的来源是一篇发表在JAMA Ophthalmology上的论文。论文使用GPT-4为一项医学学术研究生成了一个假数据集，发现它不仅能创造出看似合理的数据，甚至还能用来准确支撑错误的论文观点。\n\n\n\n\n对此，有网友表示十分理解：大模型最重要的能力就是生成“看似合理的文本”，因此它非常适合干这活儿。\n\n\n\n\n还有网友感慨：技术“有良心”的程度，也就和用它的研究人员一样了。\n\n\n\n\n所以，GPT-4创造的假数据究竟长啥样？GPT-4学术造假有一手先来看看GPT-4是怎么生成假数据的。具体来说，研究人员采用了GPT-4的高级数据分析（ADA，原代码解释器）功能，来生成一个假数据集。\n\n\n\n\n这个过程中，研究人员给GPT-4提供了一些专业知识和统计学要求，让它生成的数据看起来更加“合理”。第一步，给GPT-4输入一系列数据要求。研究人员先给GPT-4提供了一系列详细的提示词，要求它创建一个关于圆锥角膜（keratoconus）眼部疾病患者的数据集。圆锥角膜是一种疾病，会导致角膜变薄，导致注意力受损和视力不佳。目前治疗圆锥角膜疾病的方式主要有两种，一种是穿透性角膜移植（PK），另一种是深板层移植（DALK）。在没有任何实质性证据的情况下，研究人员让GPT-4捏造一组数据，支撑DALK比PK效果更好的观点。随后，再设定了一系列统计标准，如要求GPT-4生成的术前和术后数据产生统计学上的显著差异。第二步，就是生成数据了。这个过程中可能会由于GPT-4字数限制，导致答案生成暂停，通过“继续”提示就能恢复生成过程。最终，GPT-4成功生成了包含160名男性和140名女性患者的数据集，并做出了一组支撑DALK比PK效果更好的数据。由GPT-4生成的假数据集长这样，表格1是关于分类变量的数据，包括患者性别、手术类型、免疫排斥等情况：\n\n\n\n\n表2是关于连续变量，包括术前术后的视力矫正情况等：\n\n\n\n\n论文作者之一Giuseppe Giannaccare博士表示，如果非常快速地查看这个数据集，很难识别出它其实“不是人做的”。专家审查才能发现为了验证GPT-4做出来的数据是否真的令人信服，Nature特意请来了英国曼彻斯特大学生物统计学家杰克·威尔金森（Jack Wilkinson）和同事Zewen Lu，来检查数据可信度。检查结果表明，许多捏造出的患者在性别、名字匹配度上就有问题（例如Mary的性别一栏是男性一样）。然后，一些数据之间的相关性也不高，包括术前和术后视力测量与眼部成像检查（eye-imaging test）之间的数据相关性等。最后，患者的年龄也设置得不同寻常。\n\n\n\n\n在检查之后，用GPT-4生成假数据集的研究人员也承认，大模型在生成数据集上还存在有缺陷的地方。但杰克·威尔金森（Jack Wilkinson）依旧对结果表示了担忧：一旦知道自己“哪里露馅了”，AI很容易就能纠正它，并生成更加具有说服力的结果。有网友认为，这篇文章最大的意义并不在于证明“GPT-4有幻觉”；更重要的是，它证明了GPT-4生成看似合理的数据集“非常容易”，也算是一种对期刊的警告（记得严格审稿！）。\n\n\n\n\n不过，也有网友感觉研究意义不大，因为即使没有ChatGPT这样的工具，真想造假的学者也能很容易伪造出一套数据。\n\n\n\n\nOne More Thing此外，这两天一段关于ChatGPT的视频在抖音上也是火得不行。视频中，终于毕业的歪果仁小哥直呼“感谢ChatGPT帮助我完成所有作业和考试”（手动狗头）\n\n\n\n\n那么，对于ChatGPT在学术研究上可能带来的问题，你怎么看？责任编辑：若风","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.29.4","shortVersion":"4.29.4","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2385264337"}