记录关于系统运维,虚拟化云计算,数据库,网络安全等各方面问题,
采用 jenkins pipeline 实现自动构建并部署至 k8s 前言 在日常开发中,经常会有发布的需求,而且经常会碰到各种环境,比如:开发环境、测试环境、生产环境。虽然可以使用手动构建、上传服务器部署的方式,但在微服务架构下一个项目经常包含多个微服务的部署,如果用手动方式就会非常繁琐而且容易出错。使用jenkins结合SCM可以实现代码的整个自动化构建部署过程。 本文中自动构建部署过程大致完成了以下步骤: 提交spring boot项目代码并打上git tag,上传代码及tag至gitlab gitlab通过webhook自动触发jenkins执行任务 jenkins获取代码,执行代码编译、构建docker镜像、上传docker镜像至harbor镜像仓库、执行kubectl命令部署至k8s。 本文中采用jenkins pipeline执行整个jenkins的构建过程,在pipeline中使用docker执行maven构建。文中构建的docker镜像的tag直接采用git中的tag。 下面的示例中,jenkins版本...
通过filebeat、logstash、rsyslog采集nginx日志的几种方式 由于nginx功能强大,性能突出,越来越多的web应用采用nginx作为http和反向代理的web服务器。而nginx的访问日志不管是做用户行为分析还是安全分析都是非常重要的数据源之一。如何有效便捷的采集nginx的日志进行有效的分析成为大家关注的问题。本文通过几个实例来介绍如何通过filebeat、logstash、rsyslog采集nginx的访问日志和错误日志。 大家都知道ELK技术栈是采集、分析日志的利器。所以这里介绍的是从nginx采集日志到ES。当然至于日志采集以后存到看大家的需要。通过logstash可以方便的配置日志输出存储的方式。 一般来说nginx默认安装后,日志文件在 /usr/local/nginx/logs 目录下。分别有 access.log和error.log 访问日志和错误日志。这次示例Elasitcsearch是三个节点组成的集群172.28.65.22、172.28.65.23、172.28.65.24,172.28.65.30 是kibana的地址,172.28.65.32是数据采集服务器,上面装有logstash、nginx、 filebeat。一般来说采集服务器上有logstash,而nginx、 filebeat应该是装在采集目标上。 一、直接通过filebeat采集日志到ES 在filebeat的安装目录找到filebeat.yml 配置获取...
Apache Superset最近发布了1.0.1版本,这也是1.0版本后的有一个重大的版本,Superset也会在以后有更多的改进。那么让我们来看一下最新的新功能吧。 Apache Superset是一个开源的、现代的、轻量级BI分析工具,能够对接多种数据源、拥有丰富的图标展示形式、支持自定义仪表盘,且拥有友好的用户界面,十分易用。 由于Superset能够对接常用的大数据分析工具,如Hive、Kylin、Druid等,且支持自定义仪表盘,故可作为数仓的可视化工具。 Superset官网地址:http://superset.apache.org/ 用户体验 通过更简单,更直观的UI将Superset用户体验提升到了新的水平。 现在可以使用缩略图网格的方式来显示图表和仪表板列表。这对于查找图表和仪表板更加容易了,尤其是有很多图表和仪表板的情况下。 可视化控件已经更新。界面进行了优化,同时重构了包括标签、排序等控件。 从SQL Lab跳转到Explore时,用户还可以创建和命名新数据集或更新现有数据集。返回到SQL Lab时,将显示该数据集的基础查询,使用户可以在SQL...
系统文件被修改导致系统启动不了的经历 事件:centos系统文件被修改,导致系统无法启动。 某天半夜接到开发同志电话说服务器启动不了,由于这个项目没有上睿江云,大半夜的没办法啊,只能自己撸起袖子进行排查了。用排除万难的决心爬起来开始排查。。。。。 整理思路: 首先尝试单用户模式进入,单用户模式都启动不了直接翻车了。。。。 继续排查启动livecd 挂载系统盘查看具体问题 具体步骤如下: 1、虚拟机光驱启动选择系统对应的livecd,这里对应的是CentOS-6.5-x86_64-LiveCD.iso 2、设置虚拟机开机加载CentOS-6.5-x86_64-LiveCD.iso 3、终于顺利进入LiveCD系统 4、打开命令窗口、切换root用户 5、查看分区fdisk -l ...
ELK中的logstash、kafka与filebeat的部署。 实战搭建环境与各主机角色说明。 机器选择:睿江云平台节点选择:广东G(VPC网络更安全、SSD磁盘性能高)云主机配置:4核16G(4核8G也支持,但会有延时感)网络选择:VPC虚拟私有云(VPC网络更安全、高效)带宽:5M系统版本:Centos7.6云主机数量:5软件版本:ELK 7.4.0、kafka 2.12-2.6.0首先,下面为部署logstash的步骤。a.步骤1登陆logstash节点。ssh 到 192.168.0.6b.步骤2cd /opt/wget https://artifacts.elastic.co/downloads/logstash/logstash-7.4.0.tar.gzc.步骤3tar -zxvf logstash-7.4.0.tar.gzmkdir -p /opt/els/logs/logsd.步骤4vi /opt/logstash-7.4.0/config/logstash.ymlpath.logs: /opt/els/logs/logs path.config: /opt/logstash-7.4.0/conf.d/*.conf xpack.monitoring.enabled: true xpack.monitoring.elasticsearch.username: "elastic" xpack.monitoring.elasticsearch.password: "123456" xpack.monitoring.elasticsearch.hosts: ["http://ES-node1:9200","http://ES-node2:9201","http://ES-node3:9202"] e.步骤5新建配置文件,...
 
0
Kubernetes备份和恢复文章主要参考https://yq.aliyun.com/articles/336781?spm=a2c4e.11153940.blogcont561894.22.11337fffUWosVP把主要步骤做个记录 备份etcd数据首先由于ETCD有三个备份,并且会同步,所以您只需要在一台master机器上执行ETCD备份即可。另外在运行下列命令前,确保当前机器的kube-apiserver是运行的。ps -ef|grep kube-apiserver root 2063 2047 1 1月05 ? 00:41:01 kube-apiserver 执行备份export ETCD_SERVERS=$(ps -ef|grep apiserver|grep -Eo "etcd servers=.*2379"|awk -F= '{print $NF}') mkdir -p /var/lib/etcd_backup/ export ETCDCTL_API=3 etcdctl snapshot --endpoints=$ETCD_SERVERS --cacert=/var/lib/etcd/cert/ca.pem --cert=/var/lib/etcd/cert/etcd-client.pem --key=/var/lib/etcd/cert/etcd-client-key.pem save /var/lib/etcd_backup/backup_$(date "+%Y%m%d%H%M%S").db Snapshot saved at /var/lib/etcd_backup/backup_20180107172459.db 执行完成后,您可以在/var/lib/etcd_backup中找到备份的snapshot[root@iZwz95q64qi83o88y9lq4cZ etcd_backup]# cd /var/lib/etcd_backup/ [...
Elasticsearch:使用 Nginx 来保护 Elastic Stack 在我之前的文章 “反向代理及负载均衡在 Elasticsearch 中的应用” 中,我已经详述了如何使用 Nginx 来作为一个反向代理来访问 Elastic Stack。在今天的文章中,我将详述如何使用 Nginx 来保护 Elastic Stack。基于 Elastic Stack Basic 许可以上,我们都可以使用 Elastic Stack 所提供的安全方案来对 Elastic Stack 进行保护。针对 OSS 的用户来说,我们可以使用 Nginx 所提供的安全措施来对我们的 Elastic Stack 进行保护。 在本文中,我想解释一下如何实现保护 Elastic Stack 的一种更常见,更简单的方法-在 Elasticsearch 和 Kibana 的前面部署 nginx 作为反向代理。   在今天的实验中,我将使用一个 Ubuntu 20.04 的机器来做演示。   安装 Elastic Stack 针对我们的实验,我们需要安装 Elasticsearch 已经 Kibana。请参阅我之前的文章 “Elastic:菜鸟上手指南” 进行安装。我都使用默认的配置。等 Elasticsearch 以及 Kibana 都起来之后,我们可以看到如下的画面: Elasticsearch 运用于 localhost:9200 上,而 Kibana 运行于 localhost:5601 上。 Ngi...
 
0
Spark和Hadoop的区别和比较:1.原理比较:Hadoop和Spark都是并行计算,两者都是用MR模型进行计算Hadoop一个作业称为一个Job,Job里面分为Map Task和Reduce Task阶段,每个Task都在自己的进程中运行,当Task结束时,进程也会随之结束;Spark用户提交的任务称为application,一个application对应一个SparkContext,app中存在多个job,每触发一次action操作就会产生一个job。这些job可以并行或串行执行,每个job中有多个stage,stage是shuffle过程中DAGScheduler通过RDD之间的依赖关系划分job而来的,每个stage里面有多个task,组成taskset,由TaskScheduler分发到各个executor中执行;executor的生命周期是和app一样的,即使没有job运行也是存在的,所以task可以快速启动读取内存进行计算。2.数据的存储和处理:hadoop:Hadoop实质上更多是一个分布式系统基础架构: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储,同时还会索引和跟踪这些数据,大幅度提升大数据处理和分析效率。Hadoop 可以独立完成数据的存储和处理工作,因为其除了提供HDFS分布式数据存储功能,还提供MapReduce数据处理功能。spark:Spark 是一个专门用来对那些分布式存储的大数据进...
    总共294页,当前第8页 | 页数:
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10
  11. 11
  12. 12
  13. 13
  14. 14
  15. 15
  16. 16
  17. 17
  18. 18