1
0
mirror of https://github.com/fumiama/emozi.git synced 2026-06-05 00:32:48 +08:00

optimize(data): 缓存更新逻辑

This commit is contained in:
源文雨
2024-02-16 15:45:21 +09:00
parent 3adb6a8f0f
commit 86892593e7
4 changed files with 148 additions and 90 deletions

View File

@@ -53,8 +53,8 @@ go run cmd/main.go -i -a 哦 -p o
```bash
go run cmd/main.go -a 行
查询到汉字 行 的记录:
0) #149859999752449 行 [ɕ阳平] 从行 xing xínɡ
1) #149859999554817 行 [xɑŋ阳平] 从行 hang háng
0) #149859999752449 行 [ɕ, iŋ, 阳平] 从行 xing xínɡ
1) #149859999554817 行 [x, ɑŋ, 阳平] 从行 hang háng
程序处理结束
```
### 编码
@@ -80,7 +80,7 @@ go run cmd/main.go -a 的 -p de -r 日 -re 🌞
已添加汉字: 的 读音: t, ɤ, 轻声 部首: 日 ID: 130309308023300
已添加部首: 日 颜文字: 🌞
查询到汉字 的 的记录:
0) #130309308023300 的 [tɤ轻声] 从日 de de
0) #130309308023300 的 [t, ɤ, 轻声] 从日 de de
程序处理结束
go run cmd/main.go -e 的
@@ -104,7 +104,14 @@ go run cmd/main.go -d "🥛👔⁨🐴👤🌼😺🐴👩,🏔️🌅
程序处理结束
```
## 实用工具
## 作为库引用
### 特别注意
`package`使用了自修改的`modernc.org/sqlite`数据库,如欲引入本包,需要在`go.mod`添加如下替换项。
```bash
replace modernc.org/sqlite => github.com/fumiama/sqlite3 v1.20.0-with-win386
replace github.com/remyoudompheng/bigfft => github.com/fumiama/bigfft v0.0.0-20211011143303-6e0bfa3c836b
```
### 拼音识别拆分
将带声调的拼音拆分为以国际音标表示的声母韵母。
```go
@@ -114,3 +121,25 @@ if err != nil {
}
fmt.Println(s, y, tone) // tɕ i̯ʊŋ 上声
```
### 查汉字
查一个汉字在数据库中的记录。
```go
coder, err := emozi.NewCoder(time.Minute)
if err != nil {
panic(err)
}
defer coder.Close()
lst, err := coder.Lookup('行')
if err != nil {
panic(err)
}
fmt.Println("查询到汉字 行 的记录:")
for i, x := range lst {
fmt.Printf("%d)\t%s\n", i, x)
}
/*
查询到汉字 行 的记录:
0) #149859999752449 行 [ɕ, iŋ, 阳平] 从行 xing xínɡ
1) #149859999554817 行 [x, ɑŋ, 阳平] 从行 hang háng
*/
```

View File

@@ -49,12 +49,12 @@ func main() {
panic(fmt.Sprintf("ERROR: decoding data/%d.json: p: %s, f: %s", i, x.P, x.F))
}
insert := func(w string) error {
err = c.AddChar(w, x.R, x.P, x.F)
_, _, err = c.AddChar(w, x.R, x.P, x.F)
if err != nil {
return fmt.Errorf("inserting table emozi of data/%d.json: %v", i, err)
}
for _, a := range x.A {
err = c.AddChar(w, x.R, "", a)
_, _, err = c.AddChar(w, x.R, "", a)
if err != nil {
return fmt.Errorf("inserting table emozi of data/%d.json, alter %s: %v", i, a, err)
}

View File

@@ -10,6 +10,7 @@ func TestEncode(t *testing.T) {
if err != nil {
t.Fatal(err)
}
defer c.Close()
es, lst, err := c.Encode(false, "你好,世界!看看多音字:行。")
if err != nil {
t.Fatal(err)
@@ -30,11 +31,11 @@ func TestEncode(t *testing.T) {
if len(lst) != 2 && lst[0] != 2 && lst[1] != 2 {
t.Fail()
}
es, _, err = c.Encode(false, "")
es, _, err = c.Encode(false, "")
if err != nil {
t.Fatal(err)
}
if es.String() != "🈳🈳🈳" {
if es.String() != "🈳🈳🈳" {
t.Fatal("got", es.String())
}
}
@@ -44,6 +45,7 @@ func TestDecode(t *testing.T) {
if err != nil {
t.Fatal(err)
}
defer c.Close()
s := "你好,世界!看看多音字:行。"
es, _, err := c.Encode(false, s)
if err != nil {

191
data.go
View File

@@ -50,9 +50,7 @@ func (z *字表) String() string {
sb.WriteByte(' ')
sb.WriteRune(z.W)
sb.WriteString(" [")
sb.WriteString(z.S.String())
sb.WriteString(z.Y.String())
sb.WriteString(z.T.String())
sb.WriteString(z.读音())
sb.WriteString("] 从")
sb.WriteRune(z.R)
sb.WriteByte(' ')
@@ -62,6 +60,16 @@ func (z *字表) String() string {
return sb.String()
}
func (z *字表) 读音() string {
sb := strings.Builder{}
sb.WriteString(z.S.String())
sb.WriteString(", ")
sb.WriteString(z.Y.String())
sb.WriteString(", ")
sb.WriteString(z.T.String())
return sb.String()
}
// CharGlobalID 计算全局唯一字表ID
func CharGlobalID(w rune, f string) (int64, error) {
p := 去调(f)
@@ -177,28 +185,39 @@ func (c *Coder) 逆字(s 声母枚举, y 韵母枚举, t 声调枚举, r rune, l
return rs, lstbuf, nil
}
// AddChar 向主库添加一个新字
//
// w: 字, r: 部首, p: 不带声调的拼音(可空), f: 带声调的拼音
func (c *Coder) AddChar(w, r, p, f string) error {
func (c *Coder) 添加字到表(table, w, r, p, f string) (int64, string, error) {
if p == "" {
p = 去调(f)
}
s, y, t, rw, rr, err := 拆音识字(w, r, p, f)
if err != nil {
return err
return 0, "", err
}
c.mu.Lock()
err = c.db.InsertUnique(主字表名, &字表{
ID: 字表ID(rw, s, y, t),
id := 字表ID(rw, s, y, t)
revid := 逆字ID(s, y, t, rr)
x := &字表{
ID: id,
W: rw, S: s, Y: y, T: t,
R: rr, P: p, F: f,
})
}
c.mu.Lock()
err = c.db.InsertUnique(table, x)
if err == nil {
c.字表缓存[rw] = append(c.字表缓存[rw], *x)
c.逆字表缓存[revid] = append(c.逆字表缓存[revid], rw)
}
c.mu.Unlock()
if err != nil {
return errors.New("已有同音同形的字 '" + w + "'")
return 0, "", errors.New("已有同音同形的字 '" + w + "'")
}
return nil
return id, x.读音(), nil
}
// AddChar 向主库添加一个新字
//
// w: 字, r: 部首, p: 不带声调的拼音(可空), f: 带声调的拼音
func (c *Coder) AddChar(w, r, p, f string) (int64, string, error) {
return c.添加字到表(主字表名, w, r, p, f)
}
// AddCharOverlay 向附加库添加一个新字, 覆盖在主库之上
@@ -206,66 +225,7 @@ func (c *Coder) AddChar(w, r, p, f string) error {
// w: 字, r: 部首, p: 不带声调的拼音(可空), f: 带声调的拼音
// 返回: 字表ID, 文字描述, error
func (c *Coder) AddCharOverlay(w, r, p, f string) (int64, string, error) {
if p == "" {
p = 去调(f)
}
s, y, t, rw, rr, err := 拆音识字(w, r, p, f)
if err != nil {
return 0, "", err
}
return c.addcharoverlay(w, p, f, s, y, t, rw, rr)
}
func (c *Coder) addcharoverlay(w, p, f string, s 声母枚举, y 韵母枚举, t 声调枚举, rw rune, rr rune) (int64, string, error) {
id := 字表ID(rw, s, y, t)
c.mu.Lock()
err := c.db.InsertUnique(附字表名, &字表{
ID: id,
W: rw, S: s, Y: y, T: t,
R: rr, P: p, F: f,
})
c.mu.Unlock()
if err != nil {
return 0, "", errors.New("已有同音同形的字 '" + w + "'")
}
sb := strings.Builder{}
sb.WriteString(s.String())
sb.WriteString(", ")
sb.WriteString(y.String())
sb.WriteString(", ")
sb.WriteString(t.String())
return id, sb.String(), nil
}
// ChangeCharOverlay 更改附加库的一项
func (c *Coder) ChangeCharOverlay(oldw, oldr, oldf, neww, newr, newf string) (int64, string, error) {
s, y, t, rw, rr, err := 拆音识字(oldw, oldr, 去调(oldf), oldf)
if err != nil {
return 0, "", err
}
newp := 去调(newf)
ns, ny, nt, nrw, nrr, err := 拆音识字(neww, newr, newp, newf)
if err != nil {
return 0, "", err
}
q := "WHERE ID=" + strconv.FormatInt(字表ID(rw, s, y, t), 10)
x := 字表{}
c.mu.RLock()
err = c.db.Find(附字表名, &x, q)
c.mu.RUnlock()
if err != nil {
return 0, "", err
}
if x.R != rr {
return 0, "", errors.New("提供的旧部首 '" + string(rr) + "' 与记载的 '" + string(x.R) + "' 不符")
}
c.mu.Lock()
err = c.db.Del(附字表名, q)
c.mu.Unlock()
if err != nil {
return 0, "", err
}
return c.addcharoverlay(neww, newp, newf, ns, ny, nt, nrw, nrr)
return c.添加字到表(附字表名, w, r, p, f)
}
// StabilizeCharFromOverlay 将附加库中的一项固定到主库
@@ -285,30 +245,97 @@ func (c *Coder) StabilizeCharFromOverlay(id int64) (string, error) {
return x.String(), c.db.Del(附字表名, q)
}
// DelChar 删除主库的一个字
func (c *Coder) DelChar(id int64) error {
// 清除缓存字 未加锁, 必须在写锁内调用
func (c *Coder) 清除缓存字(x *字表) {
for i, ch := range c.字表缓存[x.W] {
if ch.ID == x.ID {
switch {
case i == 0:
c.字表缓存[x.W] = c.字表缓存[x.W][1:]
case i == len(c.字表缓存[x.W])-1:
c.字表缓存[x.W] = c.字表缓存[x.W][:i-1]
default:
c.字表缓存[x.W] = append(c.字表缓存[x.W][:i], c.字表缓存[x.W][i+1:]...)
}
break
}
}
revid := 逆字ID(x.S, x.Y, x.T, x.R)
for i, ch := range c.逆字表缓存[revid] {
if ch == x.W {
switch {
case i == 0:
c.逆字表缓存[revid] = c.逆字表缓存[revid][1:]
case i == len(c.逆字表缓存[revid])-1:
c.逆字表缓存[revid] = c.逆字表缓存[revid][:i-1]
default:
c.逆字表缓存[revid] = append(c.逆字表缓存[revid][:i], c.逆字表缓存[revid][i+1:]...)
}
break
}
}
}
func (c *Coder) 删除表中字(table string, id int64) error {
q := "WHERE ID=" + strconv.FormatInt(id, 10)
x := 字表{}
c.mu.Lock()
defer c.mu.Unlock()
return c.db.Del(主字表名, "WHERE ID="+strconv.FormatInt(id, 10))
err := c.db.Find(table, &x, q)
if err != nil {
return err
}
c.清除缓存字(&x)
return c.db.Del(table, q)
}
// DelChar 删除主库的一个字
func (c *Coder) DelChar(id int64) error {
return c.删除表中字(主字表名, id)
}
// DelCharOverlay 删除附加库的一个字
func (c *Coder) DelCharOverlay(id int64) error {
c.mu.Lock()
defer c.mu.Unlock()
return c.db.Del(附字表名, "WHERE ID="+strconv.FormatInt(id, 10))
return c.删除表中字(附字表名, id)
}
// AddRadical 添加一个部首
func (c *Coder) AddRadical(r rune, e string) error {
c.mu.Lock()
defer c.mu.Unlock()
return c.db.InsertUnique(部首表名, &部首表{R: r, E: e})
err := c.db.InsertUnique(部首表名, &部首表{R: r, E: e})
if err == nil {
c.部首缓存[r] = e
if 无此字符(c.逆部首缓存[e], r) {
c.逆部首缓存[e] = append(c.逆部首缓存[e], r)
}
}
return err
}
// DelRadical 删除一个部首
func (c *Coder) DelRadical(r rune) error {
x := 部首表{}
q := "WHERE R=" + strconv.Itoa(int(r))
c.mu.Lock()
defer c.mu.Unlock()
return c.db.Del(部首表名, "WHERE R="+strconv.Itoa(int(r)))
err := c.db.Find(部首表名, &x, q)
if err != nil {
return err
}
delete(c.部首缓存, r)
for i, item := range c.逆部首缓存[x.E] {
if item == r {
switch {
case i == 0:
c.逆部首缓存[x.E] = c.逆部首缓存[x.E][1:]
case i == len(c.逆部首缓存[x.E])-1:
c.逆部首缓存[x.E] = c.逆部首缓存[x.E][:i-1]
default:
c.逆部首缓存[x.E] = append(c.逆部首缓存[x.E][:i], c.逆部首缓存[x.E][i+1:]...)
}
break
}
}
return c.db.Del(部首表名, q)
}