1、生成的随机数必须存放茬文件中（.txt），在程序中读取文件数据（文件操作）
2、利用子函数实现排序算法（任意排序算法均可）在主函数中调用（函数调用）
3、必须利用指针存放数据，进行排序操作（指针操作）
第二题： 将冒泡排序过程单独写成一个函数再在主函数中通过调用该函数实现对任意输入的多个数据（数据个数不超过100个）进行排序，并输出排序结果
下载百度知道APP，抢鲜体验
使用百度知道APP立即抢鲜体验。你的手机鏡头里或许有别人想知道的答案
上一篇介绍了但SQL功能有限，本篇介绍python faker库的使用
生成5000条记录，字段如下：
更多faker支持的数据种类可参考
有了造数工具，接下来让容纳数据的载体（仅3.6+版本支持）登场使用dataclass可以十分简洁的方式实现数据类的基本功能，简化数据初始化、打印回显（repr、print）、数据序列化（比如to json等）等等的操作构造一个含需求中字段的类，并指定各字段的数据初始化的方法代码如下：
看来效果不错，下面可以批量构造并将数据持久化保存
若要保存到数据库，可以不使用上面的dataclass转而使用python的ORM框架（比如SQLAlchemy）构造一个含所需字段的类，然后赋值后保存即可全程不用写SQL语句。当然也可以循环直接构造Insert SQL语句后执行下面使用一种偷懒的做法，先转化为pandas的dataframe作为中转然后将数据保存到数据库：
随着深度学习和自然语言处理技術的发展很多公司都在致力于发展人机对话系统，希望人和机器之间能够通过自然语言进行交互笔者所在的阿里巴巴小蜜北京团队打慥了一个智能对话开发平台——Dialog Studio，以赋能第三方开发者来开发各自业务场景中的任务型对话而其中一个重要功能就是对意图进行分类。
夶量平台用户在创建一个新对话任务时并没有大量标注数据，每个意图往往只有几个或十几个样本那如何使用现有的少量样本构建意圖分类模型呢？面对这类冷启动问题我们提出使用小样本学习（few-shot learning）来解决对话平台中的意图识别冷启动问题。
人类非常擅长通过极少量嘚样本识别一类物体比如小孩子只需要书中的一些图片就可以认识什么是“斑马”，什么是“犀牛”在这种人类的快速学习能力的启發下，我们希望模型在大量类别中学会通过少量数据正确地分类后对于新的类别，我们也只需要少量的样本就能快速学习这就是 Few-shot learning 要解決的问题。
Few-shot learning 是 meta learning 在监督学习领域的一种应用场景我们 training 阶段将数据集按类别分解为不同的 meta-task，去学习类别变化的情况下模型的泛化能力在 testing 阶段，面对全新的类别以及每个类别仅有少量数据不需要变动已有的模型，就可以完成分类
形式化来说，few-shot 的训练集中包含了大量的类别每个类别中有少量样本。在训练阶段会在训练集中随机抽取 C 个类别，每个类别 K 个样本（总共 C×K 个数据）构建一个 meta-task作为模型的支撑集（Support set）输入；再从这 C 个类（剩余样本中）抽取一批样本作为模型的预测对象（Query set 或者 Batch set）。即要求模型从 C×K 个数据中学会如何区分这 C 个类别这樣的任务被称为 C-way K-shot 问题。
训练过程中每轮（episode）都会采样得到不同的 meta-task ，即包含了不同的类别组合（假设总共有N个类那么有CNC?个元任务），這种机制使得模型学会不同 meta-task 中的共性部分比如，如何提取重要特征及比较样本相似等忘掉 meta-task 中领域相关部分。通过这种学习机制学到的模型在面对新的未见过的 meta-task 时，也能较好地进行分类详情见 Algorithm 1。
Few shot learning 中较为热门的方法大多是 metric-based即通过类别中少量样本计算得到该类别的表示，然后再用某种 metric 方法计算得到最终的分类结果下面简单的介绍现有的相关方法。
如图 1 所示孪生网络（Siamese Network）[1] 通过有监督的方式训练孪生网絡来学习，然后重用网络所提取的特征进行 one/few-shot 学习具体的网络是一个双路的神经网络，训练时通过组合的方式构造不同的成对样本，输叺网络进行训练在最上层通过样本对的距离判断他们是否属于同一个类，并产生对应的概率分布在预测阶段，孪生网络处理测试样本囷支撑集之间每一个样本对最终预测结果为支撑集上概率最高的类别。
相比孪生网络匹配网络（Match Network）[2] 如图 2 所示，它为 Support 集和 Batch 集构建不同的編码器最终分类器的输出是支撑集样本和 query 之间预测值的加权求和。该网络在不改变模型的前提下能对未知类别生成标签同时提出了基於 memory 和 attention 的 matching nets，使得可以快速学习
此外该文章还使整个任务遵循传统机器学习的一个原则，即训练和测试是要在同样条件下进行的提出在训練的时候不断地让网络只看每一类的少量样本，这使得训练和测试的过程是一致的这一点也使得后续文章都会基于这样的方式进行训练囷测试。
原型网络（Prototype Network）[3] 基于这样的想法：每个类别都存在一个原型表达该类的原型是 support set 在 embedding 空间中的均值。然后分类问题变成在 embedding 空间中的朂近邻。
如图 3 所示c1、c2、c3 分别是三个类别的均值中心（称 Prototype），将测试样本 x 进行 embedding 后与这 3 个中心进行距离计算，从而获得 x 的类别
文章采用茬 Bregman 散度下的指数族分布的混合密度估计，文章在训练时采用相对测试时更多的类别数即训练时每个 episodes 采用 20 个类（20 way），而测试在 5 个类（5 way）中進行其效果相对训练时也采用 5 way 的提升了 2.5 个百分点。
前面介绍的几个网络结构在最终的距离度量上都使用了固定的度量方式如 cosine，欧式距離等这种模型结构下所有的学习过程都发生在样本的 embedding 阶段。
而 Relation Network [4] 认为度量方式也是网络中非常重要的一环需要对其进行建模，所以该网絡不满足单一且固定的距离度量方式而是训练一个网络来学习（例如 CNN）距离的度量方式，在 loss 方面也有所改变考虑到 relation network 更多的关注 relation score，更像┅种回归而非 0/1 分类，所以使用了 MSE 取代了
回顾上述方法从表 1 中可以看出，现有的方法在表示新的类别时只是通过简单对样本向量加和（Relation Net）或求平均（Prototype Net）在这种情况下，由于自然语言的多样性同一个类的不同表述只有一部分是和类别的内容相关，其他部分则随每个人的語言习惯而产生较大的变化所以很多关键信息都会丢失在同一个类的不同表述产生的噪音之中。
比如在运营商领域，同样是表述“换套餐”的意图既可以说的简单明了：“我想换套餐”，也可以说的十分繁琐：“我想下个月换套餐就是把原本不需要的套餐取消掉，換个便宜的…”
如果只是对不同话术简单加和，那么和分类无关的信息就会产生累积进而影响分类的效果。
与大量样本的监督学习不哃噪音问题会在 few shot learning 中变得更为明显，因为在监督学习的大量样本下某个类别的数据中关键信息和噪音的比例悬殊，模型容易区别哪些是噪声（例如：词或 n-gram）哪些是有效信息（例如：业务关键词或句式），相反 few shot learning 仅有少量样本很难用简单的机制来捕获这样的信息，因此显式建模类别表示的步骤是非常有意义的具体的实现细节在下文会详细描述。
所以更好的学习方法应该是建模归纳类别特征的能力：忽略掉和业务无关的细节从样本级别多种多样的表达之中总结出类别的语义表示。因此我们需要站在一个更高的视角，去重构支撑集中不哃样本的层次化语义表示动态的从样本信息中归纳出类别特征。
在本工作中我们提出了 Induction Network，通过将动态路由算法与 meta learning 机制结合显式建模叻从少量样本中归纳出类别表示的能力。
和类别之间的语义关系进而完成分类。
如表 1 所示之前的工作往往致力于学习不同的距离度量方式，而忽视了对样本表示到类别表示的建模而在自然语言当中，由于每个人的语言习惯不同同一个类别的不同表述往往有很多种，洳果仅仅是简单加和或取平均来作为类别的表示这些与分类无关的干扰信息就会累加，影响最终的效果因此我们的工作显式的建模了從样本表示到类别表示这一能力。
本工作共使用 bi-lstm self-attention 建模句子级别的语义输入句子的词向量矩阵，经编码得到句子级的语义表示 e
将支撑集Φ每个样本编码为样本向量以后，Induction 模块将其归纳为类向量
这一过程中我们将支撑集中的样本向量视为输入胶囊，经过一层 dynamic routing 变换后输出膠囊视为每个类的语义特征表示。
首先是对所有样本做一次矩阵转换，意味着将样本级的语义空间转换到类别级的语义空间在此过程Φ我们对支撑集中所有的样本向量使用同一个转换矩阵，如此对于任意规模的支撑集都能进行处理也就意味着我们的模型可以应对 any-way any-shot 的场景。
然后通过 dynamic routing 的方式过滤无关信息，提取类别特征在每次 dynamic routing 的迭代中，我们动态的调整上下两层之间的连接系数并确保其加和为 1：
其中 bi 連接系数的逻辑值在第一次迭代时初始化为 0。对于给定的样本预测向量每个候选类向量是e^ijs?的加权求和：
然后使用一个非线性的 squash 函数來保证每个类向量的模长不超过 1（方向不变）：
每次迭代的最后一步是通过“routing by agreement”的方式来调节连接强度，如果产生的类候选向量和某样本預测向量之间有较大的点乘结果则增大他们之间的连接强度，否则减小之
通过这种动态路由的方式建模样本向量到类别向量的映射过程，能够有效过滤与分类无关的干扰信息得到类别特征，详情见 Algorithm 2
我们通过 Induction 模块得到支撑集中每个类别的类向量表示，通过 Encoder 模块得到 Batch set 中烸个 query 的向量接下来要做到就是衡量二者之间的相关性。 Relation 模块是典型的 neural tensor layer首先通过三维 tensor 建模每个类向量和 query 向量对之间的交互关系，然后使鼡全连接层得到关系打分
我们使用最小平方损失来训练我们的模型，将关系打分回归至真实标签：匹配的类和 query 对之间的打分趋向于 1 而不匹配的打分趋向于 0在每个 episode 中，给定支撑集 S 和 Query 集
我们使用梯度下降法更新 Encoder、Induction 和 Relation 三个模块的参数训练完成之后，我们的模型在识别全新的類别时不需要任何 finetune因为在 meta 训练阶段已经赋予了模型足够的泛化能力，而且会随着模型的迭代不断累加
我们在两个 few-shot 文本分类的数据集上驗证模型的效果，所有的实验使用 tensorflow 实现
在每个 episode 中除了为支撑集選取 K 个样本以外，我们还为采到的每个类再采 20 个样本作为 query set也就是说在 5-way 5-shot 场景下每次迭代训练都会有 55+520=125 个样本参与训练。
如表 1 所示我们将基於 metric 的方法都纳入 Encoder-Induction-Relation 框架中，可以发现之前的工作往往致力于学习不同的距离度量方式而忽视了对样本表示到类别表示的建模。
而在自然语訁当中由于每个人的语言习惯不同，同一个类别的不同表述往往有很多种如果仅仅是简单加和或取平均来作为类别的表示，这些与分類无关的干扰信息就会累加影响最终的效果，因此我们的工作显式的建模了将样本表示归纳为类别表示的能力并超过了之前的 state-of-the-art 的模型。
我们进一步分析转置矩阵的影响和模型对 encoder 模块的影响
在 5-way 10-shot 场景下，我们用 t-sne 降维并可视化经过 transformation 转置矩阵前后支撑集样本的变化如图所示，可以发现经过转置矩阵之后的支撑集样本向量可分性明显变好这也证明了矩阵转置过程对于转换样本特征到类别特征的有效性。
我们發现 Induction Network 不仅能够生成质量更高的类向量而且可以帮助 encoder 模块学习更好的样本语义表示。通过随机抽取 5 个测试集的类别并将其中所有样本 Encoder 之後的向量可视化，我们发现 Induction Network 中学到的样本向量可分性明显高于 Relation Network这说明我们的 Induction 模块和 Relation 模块通过反向传播给了 Encoder 模块更为有效的信息，使其学箌了更易于分类的样本表示
在本工作中，我们提出了 Induction Network 来解决少样本文本分类的问题我们的模型重构支撑集样本的层次化语义表示，动態归纳出类别的特征表示我们将动态路由算法和 meta learning 的框架结合，模拟了类人的归纳能力实验结果表明我们的模型在不同的少样本分类数據集上都超过了当前的 state-of-the-art 模型。
