现在我也不知道这频道发了啥了,各位慢慢吃瓜,将就着看

联系我请去 @abc1763613206

友链儿
@cyberElaina
@rvalue_daily
@billchenla
Chat 专家模式全量 V4 了
金枪鱼之夜:ICU Done Wrong: 如何构建多文种的文本索引
https://tuna.moe/event/2026/icu/

为了解决 Telegram 对汉文搜索的问题,几年前 Sharzy 开发了 Python + Whoosh 的消息记录的搜索工具。近日在将其用 Rust + Tantivy 重写的过程中,他发现基于 jieba 的 analyzer 在处理日文时会有显著的问题,于是转向了更加通用的 CJK bigram 方案。但他很快意识到和 Unicode 搏斗并不是一件美妙的事情。Unicode 联盟开发的 ICU (International Components for Unicode) 是一套处理 Unicode 的库集合,但是不同文字之间的差异并不能直接用 ICU 抹平,从拉丁字母、汉字、日文假名、谚文,到阿拉伯字母、希伯来字母、婆罗米系文字,再到越南语拉丁字……试图为这些文字/书写系统构建统一的方案的问题远比看起来要多。

本次 Tunight 上 Sharzy 将会介绍如何在㋿Ξ㍾㍿的 ICU 世界中构建出一套似乎能用的系统——目前仍在锐意开发中。

欢迎大家一起来玩!
---
活动信息:
* 主讲人:@SharzyManaka
* 时间:2026/04/24(校历第九周周五) 19:00 UTC +08:00
* 活动形式:线下 + 线上会议 + 直播
* 地点:三教 1206,我们又回到了三教
* 线上会议:腾讯会议 544-278-322 密码 260424 (https://meeting.tencent.com/dm/1Q70SjAX7MRs)
* 直播链接:https://youtube.com/live/kNby3uD9ynQ
Back to Top