Go开发的各种坑 - struct序列化与反序列化

1. 概述

Golang中,巨大的坑就是struct的序列化和反序列化。

struct的字段初始值,是Go零值,例如0、""、false。在CRUD操作中,需要两次序列化和反序列化,json<-->struct<-->db,存在的问题:

  • 1)增加实体时,某些字段选填,对应的内容应该是nil,不应该是""或0
  • 2)更新实体时,如果要支持部分字段更新,拿到的是一个完整的struct,字段值为0或"",无法确认是否是用户填写
  • 3)读取实体时,数据库的某些Number类型字段为null,读取到struct后则为0,显然不符合实际情况(0也是有意义的数值)

基于此,简单方法,只支持全量更新,且不区分零值和nil,会带来诸多不便。

如果要区分,解决办法有几个:

  • 通过指针的方式解决,即将field类型定义为*int*string等,可参考package null
  • 自定义类型,完成struct与json以及数据库的序列化和反序列化,可以严格按照自己的想法实现

本文将对上述两种方法举例说明。

当然,也有其他怪招,比如

  • 每次update请求,客户端指明要更新的字段名,基于此,服务端可以只读取特定字段,挺麻烦
  • json数据反序列化到map[any]any,然后逐个字段判断,这样基本上废弃了struct,代码复杂度骤增

2. 通过指针的方式

  • 代码
package main

import (
    "encoding/json"
    "log"
)

type Foo struct{ Val *int }

func do(bytes []byte) (Foo, error) {
    var a Foo
    err := json.Unmarshal(bytes, &a)
    return a, err
}

func testDeserialize() {
    notSet := []byte(`{}`)
    setNull := []byte(`{"val": null}`)
    setValid := []byte(`{"val": 123}`)
    setWrongType := []byte(`{"val": "123"}`)

    a, err := do(notSet)
    log.Printf("NotSet      |value:%v |err: %v\n", a.Val, err)
    a, err = do(setNull)
    log.Printf("SetNull     |value:%v |err: %v\n", a.Val, err)
    a, err = do(setValid)
    log.Printf("SetValid    |value:%d   |err: %v\n", *a.Val, err) // 注意:实际应用时,需要先判断a.Val是否为nil
    a, err = do(setWrongType)
    log.Printf("SetWrongType|value:%d     |err: %v\n", *a.Val, err) // 注意,这时候a.Val居然是0,而不是nil
}

func testSerialize() {
    notSet := Foo{}
    setNull := Foo{nil}
    setValid := Foo{&[]int{22}[0]}

    res, err := json.Marshal(notSet)
    log.Printf("NotSet |result:%s |err: %v\n", res, err)
    res, err = json.Marshal(setNull)
    log.Printf("setNull |result:%s |err: %v\n", res, err)
    res, err = json.Marshal(setValid)
    log.Printf("setValid |result:%s |err: %v\n", res, err)
}

func main() {
    log.Println("deserialize test ...")
    testDeserialize()
    log.Println("serialize test ...")
    testSerialize()
}
  • 运行结果
% go run test_null.go
2023/05/10 15:10:12 deserialize test ...
2023/05/10 15:10:12 NotSet      |value:<nil> |err: <nil>
2023/05/10 15:10:12 SetNull     |value:<nil> |err: <nil>
2023/05/10 15:10:12 SetValid    |value:123   |err: <nil>
2023/05/10 15:10:12 SetWrongType|value:0     |err: json: cannot unmarshal string into Go struct field Foo.Val of type int
2023/05/10 15:10:12 serialize test ...
2023/05/10 15:10:12 NotSet |result:{"Val":null} |err: <nil>
2023/05/10 15:10:12 setNull |result:{"Val":null} |err: <nil>
2023/05/10 15:10:12 setValid |result:{"Val":22} |err: <nil>

3. 自定义类型

  • 代码
package main

import (
    "encoding/json"
    "log"
    "strconv"
)

type Int struct {
    Exists bool // 表示是否存在
    IsNull bool // 表示是否为null
    Value  int
}

// UnmarshalJSON 自定义反序列化方法
func (i *Int) UnmarshalJSON(data []byte) error {
    // 如果调用了该方法,说明设置了该值
    i.Exists = true
    if string(data) == "null" {
        // 表明该字段的值为 null
        i.IsNull = true
        return nil
    } else {
        i.IsNull = false
    }

    var temp int
    if err := json.Unmarshal(data, &temp); err != nil {
        return err
    }
    i.Value = temp
    return nil
}

// MarshalJSON 自定义序列化方法
func (i Int) MarshalJSON() ([]byte, error) {
    if !i.Exists || i.IsNull {
        return []byte("null"), nil // 注意:必须是小写null,不能是NULL、Null,原因Json不允许
    }
    return []byte(strconv.Itoa(i.Value)), nil
}

type Some struct{ Val Int }

func do(bytes []byte) (Some, error) {
    var a struct{ Val Int }
    err := json.Unmarshal(bytes, &a)
    return a, err
}

func testDeserialize() {
    notSet := []byte(`{}`)
    setNull := []byte(`{"val": null}`)
    setValid := []byte(`{"val": 123}`)
    setWrongType := []byte(`{"val": "123"}`)

    a, err := do(notSet)
    log.Printf("NotSet      |Exists:%t |IsNull:%t |Value: %d |err: %v\n", a.Val.Exists, a.Val.IsNull, a.Val.Value, err)
    a, err = do(setNull)
    log.Printf("SetNull     |Exists:%t  |IsNull:%t  |Value: %d |err: %v\n", a.Val.Exists, a.Val.IsNull, a.Val.Value, err)
    a, err = do(setValid)
    log.Printf("SetValid    |Exists:%t  |IsNull:%t |Value: %d |err: %v\n", a.Val.Exists, a.Val.IsNull, a.Val.Value, err)
    a, err = do(setWrongType)
    log.Printf("SetWrongType|Exists:%t  |IsNull:%t |Value: %d |err: %v\n", a.Val.Exists, a.Val.IsNull, a.Val.Value, err)
}

func testSerialize() {
    notSet1 := Some{Int{Exists: false}}
    notSet2 := Some{Int{Exists: false}}
    setNull := Some{Int{Exists: true, IsNull: true}}
    setValid := Some{Val: Int{Exists: true, IsNull: false, Value: 33}}

    res, err := json.Marshal(notSet1)
    log.Printf("NotSet1 |result:%s |err: %v\n", res, err)
    res, err = json.Marshal(notSet2)
    log.Printf("notSet2 |result:%s |err: %v\n", res, err)
    res, err = json.Marshal(setNull)
    log.Printf("setNull |result:%s |err: %v\n", res, err)
    res, err = json.Marshal(setValid)
    log.Printf("setValid |result:%s |err: %v\n", res, err)
}

func main() {
    log.Println("deserialize test ...")
    testDeserialize()
    log.Println("serialize test ...")
    testSerialize()
}
  • 运行结果
% go run test_json.go
2023/05/10 15:15:50 deserialize test ...
2023/05/10 15:15:50 NotSet      |Exists:false |IsNull:false |Value: 0 |err: <nil>
2023/05/10 15:15:50 SetNull     |Exists:true  |IsNull:true  |Value: 0 |err: <nil>
2023/05/10 15:15:50 SetValid    |Exists:true  |IsNull:false |Value: 123 |err: <nil>
2023/05/10 15:15:50 SetWrongType|Exists:true  |IsNull:false |Value: 0 |err: json: cannot unmarshal string into Go struct field .Val of type int
2023/05/10 15:15:50 serialize test ...
2023/05/10 15:15:50 NotSet1 |result:{"Val":null} |err: <nil>
2023/05/10 15:15:50 notSet2 |result:{"Val":null} |err: <nil>
2023/05/10 15:15:50 setNull |result:{"Val":null} |err: <nil>
2023/05/10 15:15:50 setValid |result:{"Val":33} |err: <nil>

4. 总结

在实际应用中,基本不用区分json的null未设置,所以,都可以一并对应到struct的nil,认为用户未设置

上述两种办法都是对Golang基本数据类型的补充,在使用过程中,会存在诸多不变,例如

  • 使用之前,需要先判断是否为nil,或者是否exists。如果直接使用,可能直接panic
  • 解决了json与struct的序列化问题,还需要关注如何兼容struct与数据库之间的数据读写

所以,在Golang官方没有改变的情况下,还是尽量使用基本数据类型,否则,操作起来比较麻烦。

另外,在对空数组、空字典的序列化,是符合预期的,能区分开nil和[]、{}。

  • nil,对应json的null
  • []int{}、make([]int, 0, 10),都对应json的[]
  • map[string]any{}、make(map[string]any),都对应json的{}

json.Marshal() will return null for var myslice []int and [] for initialized slice myslice := []int{}

5. Refer

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,723评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,485评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,998评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,323评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,355评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,079评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,389评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,019评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,519评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,971评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,100评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,738评论 4 324
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,293评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,289评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,517评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,547评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,834评论 2 345

推荐阅读更多精彩内容