Tungsten Fabric知识库丨更多组件内部探秘

2020-09-02 10:16:47 浏览数 (1)

在上一篇文章中,我们和您一起了解了vRouter的内部结构和进程,今天继续Tungsten Fabric其它组件的内部探秘旅程。

作者:Tatsuya Naganawa 译者:TF编译组

- control内部 -

IFMAP-SERVER弃用

在R4.0之后,不建议使用ifmap-server,当前控制节点直接从cassandra接收配置信息。

  • https://github.com/tungstenfabric/tf-specs/blob/master/deprecating-discovery-4.0.md

话虽如此,但是在内部,它仍然使用ifmap结构来存储vrf、interface、logical-router等的拓扑数据。

为了直接从cassandra中拾取数据,对ifmap客户端进行了一些更改,这些更改由control使用。

  • https://bugs.launchpad.net/juniperopenstack/ bug/1632470

最初,ifmap客户端包含很多逻辑来从ifmap-server提取数据,但是目前它仅包含一种逻辑,从cassandra获取json文件,并用该数据填充ifmap结构。

  • https://github.com/Juniper/contrail-controller/tree/R2002/src/ifmap/client
  • https://github.com/Juniper/contrail-controller/tree/R3.2/src/ifmap/client

因此,它现在将ifmap用作内部使用的结构,而不是用作一个wire协议。

NAMED和DNS的区别

contrail-dns和contrail-named是不同的进程,实际上有着不同的用途。 contrail-dns具有与contrail-control类似的功能,它通过XMPP提供vDNS信息,vRouter将基于该输入执行一些DNS任务。

  • https://github.com/Juniper/contrail-controller/tree/master/src/dns
  • https://github.com/Juniper/contrail-controller/wiki/DNS-and-IPAM

contrail-named实际上并不使用XMPP,而是使用ISC绑定来提供DNS数据,用于对vDNS条目进行外部DNS查询。

  • https://github.com/tungstenfabric/tf-container-builder/blob/master/containers/controller/control/named/entrypoint.sh#L10

- config内部 -

CRUD操作REST API和MSGBUS更新

Config-api将提供REST API,以实现每个配置对象的CRUD操作,例如virtual-network、network-policy等。

为此,它基于架构(schema)文件动态创建URL。

  • _generate_resource_crud_methods和_generate_resource_crud_uri创建通用方法和URL

这种方法的默认行为是执行Cassandra更新,并且Rabbitmq交换也填充了一些信息,以供其它进程使用,例如schema-transformer、svc-monitor、device-manager。

  • https://github.com/Juniper/contrail-controller/blob/master/src/config/api-server/vnc_cfg_api_server/vnc_db.py#L1595-L1606
代码语言:javascript复制
def dbe_create(self, obj_type, obj_uuid, obj_dict):
        (ok, result) = self._object_db.object_create(obj_type, obj_uuid,
                                                     obj_dict)

        if ok:
            # publish to msgbus
            self._msgbus.dbe_publish('CREATE', obj_type, obj_uuid,
                                     obj_dict['fq_name'], obj_dict=obj_dict)
            self._dbe_publish_update_implicit(obj_type, result)

        return (ok, result)
    # end dbe_create

其它任务(例如检查输入数据或使用默认值填充)将由pre_dbe_create或post_dbe_create(此创建可以删除,更新,读取等)完成,并且按资源定义。

  • https://github.com/Juniper/contrail-controller/tree/master/src/config/api-server/vnc_cfg_api_server/resources

DEPENDENCY_TRACKER

schema-transformer、svc-monitor和device-manager使用dependency tracker来处理config-api中的amqp消息,并递归地评估更新对象所引用的对象。

  • https://github.com/Juniper/contrail-controller/blob/master/src/config/common/cfgm_common/dependency_tracker.py

在内部,如果reaction_map包含amqp消息中的对象的键(key),它将开始评估该对象。这里reaction_map其实是一个已更新对象名称的python dict,而其它对象名称需要评估。

举例来说,如果virtual-machine-interface已更新,

  • https://github.com/Juniper/contrail-controller/blob/master/src/config/schema-transformer/schema_transformer/to_bgp.py#L92-L94

如果它具有最初更新的virtual-machine-interface引用,还将评估virtual-machine、port-tuple、virtual-network和bgp-as-a-service。

- config database内部 -

读取CONFIG_DB_UUID键空间内容

当cqlsh看到Cassandra的内容时(例如cql> select * from config_db_uuid.obj_fq_name_table;),它将返回一些人类无法理解的输出。

关键是config-api内部使用pycassa的ColumnFamily(https://github.com/pycassa/pycassa#basic-usage),类似于Cassandra的ORM映射器。

要读取此信息,通过backup / restore程序创建的json文件是很方便的。

  • https://github.com/tnaganawa/tungstenfabric-docs/blob/master/TungstenFabricPrimer.md#backup-and-restore

尽管该结果与config-api的HTTP GET输出大部分相似。

TUNGSTEN FABRIC配置数据库中 ZOOKEEPER的使用

使用Cassandra计算下一个整数并不容易,为此Tungsten Fabric使用了Zookeeper。

https://stackoverflow.com/questions/53702288/is-increment-integer-in-cassandra-possible-in-some-cases

数据在各种Zookeeper的path中,可以使用以下命令查看。

代码语言:javascript复制
docker exec -it config_database_zookeeper_1 bash
  ./bin/zkCli.sh -server config-database-ip

[zk: 172.31.12.209(CONNECTED) 0] ls /
[analytics-discovery-, api-server-election, device-manager, fq-name-to-uuid, id, schema-transformer, svc-monitor, zookeeper]
[zk: 172.31.12.209(CONNECTED) 1] ls /id
[bgp, security-groups, tags, virtual-networks]
[zk: 172.31.12.209(CONNECTED) 2] ls /id/bgp
[route-targets]
[zk: 172.31.12.209(CONNECTED) 3] ls /id/bgp/route-targets
[type0]
[zk: 172.31.12.209(CONNECTED) 4] ls /id/bgp/route-targets/type0
[0008000000, 0008000001, 0008000002, 0008000003, 0008000004, 0008000005, 0008000006]
[zk: 172.31.12.209(CONNECTED) 5] 

[zk: 172.31.12.209(CONNECTED) 11] get /id/bgp/route-targets/type0/0008000000
default-domain:default-project:default-virtual-network:default-virtual-network
[zk: 172.31.12.209(CONNECTED) 12]

备份脚本也可以用于转储所有Zookeeper数据。

https://github.com/tnaganawa/tungstenfabric-docs/blob/master/TungstenFabricPrimer.md#backup-and-restore

- analytics内部 -

REDIS、CASSANDRA和KAFKA

Analytics有多个后端数据库,最主要的是notabliy、redis和cassandra,如果安装了alarmgen,那么还包括kafka。

这些数据库由collector分别更新,当vRouter之类的sandesh更新时,control就已经到达了该进程。

收到之后,到达ruleeng.cc,

  • https://github.com/tungstenfabric/tf-analytics/blob/master/contrail-collector/ruleeng.cc#L900

并根据收到的sandesh数据类型执行一些任务。

  • 如果收到的是UVE,则填充redis和kafka,如果安装了Cassandra,还将填充此数据库的统计表。

因此,redis和kafka将仅处理UVE,当Cassandra未安装时,除UVE之外的所有数据都不会导入到analytics数据库中。

UVEUPDATE.LUA

在UVE到达collector时,collector目录中的一些lua文件将用于更新Redis。

  • https://github.com/tungstenfabric/tf-analytics/blob/master/contrail-collector/uveupdate.lua

在内部,它在编译时通过xxd命令转换为cpp文件。

  • https://github.com/tungstenfabric/tf-analytics/blob/master/contrail-collector/SConscript#L155-L160

- 补充一些配置knob -

转发模式(FORWARDING MODE)

vRouter具有几种转发模式。

  • https://bugs.launchpad.net/juniperopenstack/ bug/1471637

默认情况下,它将使用L2/L3模式。L3模式和L2模式也有一些用例。

未知单播泛洪(FLOOD UNKNOWN UNICAST)

当使用L2 BMS连接时使用此knob。

  • https://bugs.launchpad.net/juniperopenstack/ bug/1424523

默认情况下,由于控制器知道虚拟机的所有mac地址,因此vRouter将丢弃未知的单播,尽管使用L2 BMS时并非如此。

因此,在这种情况下需要启用此knob。

允许传递(ALLOW TRANISIT)

此knob与服务链功能一起使用。

  • https://bugs.launchpad.net/opencontrail/ bug/1365277

当VM1 - VN1 - VNF1 - VN2 - VNF2 - VN3 - VM2已创建,并且VN1-VN2,VN2-VN3服务链已配置时,由于ServiceChain前缀不可传递,因此默认情况下VM1无法ping通VM2。

在VN2中启用此knob后,VN1中的前缀将导入到VN3,反之亦然,因此VM1可以ping通到VM3。

多重服务链(MULTIPLE SERVICE CHAIN)

我实际上从未尝试过此knob。

此URL中描述了详细信息:

  • https://bugs.launchpad.net/juniperopenstack/ bug/1505023

原文链接: https://github.com/tnaganawa/tungstenfabric-docs/blob/master/TungstenFabricKnowledgeBase.md

sdn

0 人点赞