本站建议最低逻辑分辨率宽度720px
Loading...
asoul吧
为了治一治社区里那些引战的串子,我搞了个B站评论采集工具
tid:10864110697
1539487 21 538 0
楼主:甘雨露翛然 入形帕鲁最后回复:业障除
1楼
pid:153717076956
百度用户UID6530239498 甘雨露翛然 入形帕鲁 的头像

甘雨露翛然

入形帕鲁

兄弟们,我是鸣潮玩家,最近社区里串子越来越多,带节奏的、反串的、滑坡的,看得人血压高
怒
。忍不了,我就想能不能搞点数据自己分析一下,看看哪些账号、哪些言论是惯犯,顺便也帮同好整理一些评论素材,正好暑假我也有空就开始瞎捣鼓。
然后我就用AI(没错,大部分代码都是AI生成的,我就是个缝合怪)搓了一个叫BiliSpider的小工具,主要功能就是爬B站评论,支持按UP主批量拉,还能一级二级评论都存下来,本地SQLite,自带去重。
这是gui
本来只是自己用,后来想着大家一起玩更效率,就加了一套JSONL数据协作流程——有人爬过的数据导出来,别人导进去就能合并,不用重复爬。具体怎么操作我就不贴了,反正命令什么的都写在了项目README里,自己去看就行。
项目地址丢这儿:网页链接
我就盯着暗区里的UP主爬,这是爬出来的数据库转明文后的.jsonl示例(这玩意现在十几万条评论就4Mb了,估计之后会变得很大)
工具目前支持扫码登录、查用户视频、爬评论、导入导出、数据校验、简单GUI这些,适合做课程作业、数据分析,或者像我一样想揪串子留档的。
但是!我现在有个很慌的问题:我完全不知道这个工具算不算违反B站协议,毕竟爬虫这东西灰色地带,我也没深入研究过,能做到这个地步完全就是站在前人和ai的肩膀上。虽然代码里加了延时和随机抖动,但万一被阿姨盯上,我自己用用倒还好,如果推广出来大家用,会不会害了别人?所以各位老哥用之前自己掂量,最好看看B站用户协议,如果觉得有问题就千万别用,我也只是写着玩,真不想惹麻烦。
另外再次强调:代码大部分是AI写的,我只是把各段拼起来调了调,你们别指望我技术多牛,有问题欢迎提issue,但别喷我,我也在学。
最后,频率千万别太高,我试过1.5秒+1秒抖动感觉还稳,我已经爬一夜了,没事,但别作死。再往上加到时候你号被封了别来找我
黑线
。仅供个人学习和研究用,别拿去搞商业或者攻击平台,咱就图个乐。
有愿意一起攒数据集,或者想帮忙看看协议问题的,欢迎来GitHub聊聊,PR、issue都行。如果这玩意儿真有问题,我随时删库跑路
溜了溜了。
呵呵
5楼
pid:153717115972
百度用户UID5512066612 讯号x null 的头像

讯号x

花心
花心
花心
11楼
pid:153717141565
百度用户UID7032511780 null 幻响 的头像

幻响

突然兴奋
15楼
pid:153717154438
百度用户UID4637602573 null MY_GO 的头像

MY_GO

我去,真牛逼
18楼
pid:153717163429
百度用户UID6777182418 null 冬槿 的头像

冬槿

优质kg,比吧里只会复制粘贴的ak87强多了
突然兴奋
21楼
pid:153717209150
百度用户UID2531658804 The語And夢 null 的头像

The語And夢

DDD
22楼
pid:153717222932
百度用户UID6928715052 null Rinko🍺 的头像

Rinko🍺

dd
26楼
pid:153717255351
百度用户UID240078749 雪绪の12月 null 的头像

雪绪の12月

A吧正资产
29楼
pid:153717279585
百度用户UID6846980169 jojop66 jojop 的头像

jojop66

jojop

我草,nb,虽然我看不懂
33楼
pid:153717364465
百度用户UID674356939 Dzcaqcz null 的头像

Dzcaqcz

真棒
真棒
真棒
34楼
pid:153717367957
百度用户UID1734880726 泠风逆起 望公期 的头像

泠风逆起

望公期

有点太nbl哥们,感觉和你们呆一块显得我很废物
39楼
pid:153717423259
百度用户UID4539938518 null polaris_sk 的头像

polaris_sk

小红点
42楼
pid:153717426443
百度用户UID6667586873 null 死灵天神 的头像

死灵天神

连研发科技都学会了吗kg宝宝
49楼5条
pid:153717454554
百度用户UID7014953299 盯盯呤呤 盯着你这玩意 的头像

盯盯呤呤

盯着你这玩意

可以去三度吧和爆吧也宣传一下
  • 百度用户UID5992293285 null WNP 的头像WNP
    回复
    入形帕鲁
    :没事儿,鸣的暗区是我见过最弱的
    呵呵
  • 百度用户UID7014953299 盯盯呤呤 盯着你这玩意 的头像盯盯呤呤 盯着你这玩意
    回复
    入形帕鲁
    :也不用太担心,三度那边是护鸣的,主要就是骂和挂带节奏的,爆吧大部分时间都是在正常发帖,只有外部节奏太大了才会骂那些带节奏的
51楼
pid:153717457957
百度用户UID7025952717 kjdguv null 的头像

kjdguv

别被人盯上了
53楼
pid:153717473020
百度用户UID1550730012 8ge233 null 的头像

8ge233

帮🔝
54楼
pid:153717476771
百度用户UID6589654232 旅月昼 null 的头像

旅月昼

nb
55楼
pid:153717480824
百度用户UID4045384341 null 贴吧用户_5E2CtXV 的头像

贴吧用户_5E2CtXV

别被人盯上了,注意一下吧
60楼
pid:153717518988
百度用户UID6468642848 kjhgubv null 的头像

kjhgubv

我去
突然兴奋
68楼
pid:153717551835
百度用户UID6863664262 null 丨流光灬 的头像

丨流光灬

au太厉害了
大拇指
73楼
pid:153717568726
百度用户UID2373678720 天海一线S null 的头像

天海一线S

牛🐮
75楼
pid:153717578501
百度用户UID6933594642 null 無婲 的头像

無婲

79楼
pid:153717600419
百度用户UID4984196419 奥林比蕥 奥林比雅 的头像

奥林比蕥

奥林比雅

顶!A8正资产,所以这个应该叫甚么,A搜?
80楼
pid:153717604381
百度用户UID1554208537 千古风S null 的头像

千古风S

给你优质小红点
83楼
pid:153717624222
百度用户UID6886185260 SVSYSVSY null 的头像

SVSYSVSY

正资产大佬
84楼
pid:153717633165
百度用户UID2824804703 wyi196 w196 的头像

wyi196

w196

cy
88楼
pid:153717671701
百度用户UID3352178605 时隙蚍蜉 null 的头像

时隙蚍蜉

牛批
tbm@n0099.com https://github.com/n0099/open-tbm