当前位置:主页 > python教程 > python按比例随机切分数据的实现

如何用python实现按比例随机切分数据

发布:2020-01-22 20:26:57 130


我们帮大家精选了Python相关的编程文章,网友薛雪卉根据主题投稿了本篇教程内容,涉及到python、切分数据、python按比例随机切分数据的实现相关内容,已被445网友关注,涉猎到的知识点内容可以在下方电子书获得。

python按比例随机切分数据的实现

在机器学习或者深度学习中,我们常常碰到一个问题是数据集的切分。比如在一个比赛中,举办方给我们的只是一个带标注的训练集和不带标注的测试集。其中训练集是用于训练,而测试集用于已训练模型上跑出一个结果,然后提交,然后举办方验证结果给出一个分数。但是我们在训练过程中,可能会出现过拟合等问题,会面临着算法和模型的选择,此时,验证集就显得很重要。通常,如果数据量充足,我们会从训练集中划分出一定比例的数据来作为验证集。

每次划分数据集都手动写一个脚本,重复性太高,因此将此简单的脚本放到自己的博客。代码如下:

import random

def split(full_list,shuffle=False,ratio=0.2):
  n_total = len(full_list)
  offset = int(n_total * ratio)
  if n_total==0 or offset<1:
    return [],full_list
  if shuffle:
    random.shuffle(full_list)
  sublist_1 = full_list[:offset]
  sublist_2 = full_list[offset:]
  return sublist_1,sublist_2


if __name__ == "__main__":
  li = range(5)
  sublist_1,sublist_2 = split(li,shuffle=True,ratio=0.2)

  print sublist_1,len(sublist_1)
  print sublist_2,len(sublist_2)

其中,main为测试代码。假如训练集给出的是一个文件,我们先将文件读到列表中,然后再调用split。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持码农之家。


参考资料

相关文章

  • Python通过正则表实现文件内容替换的实例

    发布:2020-04-23

    这篇文章主要介绍了Python基于正则表达式实现文件内容替换的方法,涉及Python文件、目录及字符串正则替换等相关操作技巧,需要的朋友可以参考下


  • python实现坦克大战游戏 附详细注释

    发布:2022-04-20

    这篇文章主要为大家详细介绍了python实现坦克大战游戏,附详细注释,具有一定的参考价值,感兴趣的小伙伴们可以参考一下


  • python使用redis实现消息队列(异步)的实现完整例程

    发布:2023-03-08

    本文主要介绍了python使用redis实现消息队列(异步)的实现完整例程,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧


  • 分享Python全局变量的用法

    发布:2020-02-12

    这篇文章主要介绍了Python全局变量用法,结合实例形式分析了Python中全局变量的定义、使用方法与相关注意事项,需要的朋友可以参考下


  • python如何创建文件

    发布:2020-02-27

    python建立文件的方法:首先在电脑桌面上,新建一个名为a的文件夹;然后打开python的编译器;再用python在文件夹a里面建立一个b.txt文档,代码是file.write('你好,\n 世界。')。


  • Python分割列表list方法使用(平均n等份拆成)

    发布:2023-03-23

    本文主要介绍了Python分割列表list方法使用(平均n等份拆成),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧


  • python人物视频背景替换实现虚拟空间穿梭

    python人物视频背景替换实现虚拟空间穿梭

    发布:2022-09-07

    为网友们分享了关于python的教程,这篇文章主要为大家介绍了python实现人物视频背景替换示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪


  • 如何查看一个Python对象的类型

    发布:2020-01-27

    在Python中一切都可以看做对象,这里有两种类型判断函数,分别是type()和isinstance(),所有的基本类型都可以使用type()进行判断,但是对于一些继承关系而言,使用isinstance()函数更好一些。


网友讨论