
# yapi 设置环境变量，如何修改全局变量？

`环境配置` 一项可以添加该项目下接口的实际环境，供 [接口测试](https://hellosean1025.github.io/yapi/documents/case.html) 使用，这里增加了全局 header，可以在项目中设置全局 header 值

![截屏2020-12-19 下午2.03.31](/images/blog/1/tools/assert/yapi-环境变量配置.png)

可以设置全局的header，cookie，global，使用 `{{}}`来引用环境变量，但是大部分使用环境变量的场景是需要能自动修改环境变量，比如：调用登录接口获取token，其他接口在调用时可以自动设置 `Authorization: Bearer helloworld`这种场景，如果使用global，yapi没有提供可以修改global的接口，做不到



那怎么办？我肯定不会每次token过期了再去手动设置global access_token的！



思路：

yapi提供了 storage 来存储数据 和  pre-script/pre-script 请求前后处理脚本。

每次调用登录接口后存储 access_token到storage中, 然后每次请求拼接设置header  `Authorization: Bearer helloworld`

`Pre-request Script(请求参数处理脚本)`

```js
context.requestHeader.Authorization = "Bearer " + storage.getItem('accessToken');
```

`Pre-response Script(响应数据处理脚本)`

```js
if (context.responseData && context.responseData.data && context.responseData.data.accessToken) {
    storage.setItem("accessToken", context.responseData.data.accessToken)
}

console.log("accessToken", context.responseData.data.accessToken);
```


![](/images/blog/1/tools/assert/yapi-pre-script.png)

注意必须保存才能生效的，不生效看看有没有保存成功，字段是否一致？

请求成功案例：

[YApi 新版如何查看 http 请求数据](https://juejin.cn/post/6844903795743260685)

![yapi-环境变量-成功案例.png](/images/blog/1/tools/assert/yapi-环境变量-成功案例.png)

yapi无法修改全局变量！如何曲线救国！

yapi 设置环境变量，如何修改全局变量？


**ES初始化密码**

```shell
./elasticsearch-setup-passwords interactive
```

**ES开启密码校验**

```ini
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
```

**ES(7.*)集群配置**

```ini
path.data: /data/elasticsearch/data
path.logs: /data/elasticsearch/logs

# 集群名称，节点集群名称必须一样
cluster.name: douyacun
# 节点id，唯一
node.name: node-2
# 限制客户端IP地址
network.bind_host: 0.0.0.0
# 集群节点连接IP
network.publish_host: 116.196.69.34
# http端口
http.port: 9200
# 集群节点之间 TCP 端口
transport.port: 9300
# 是否参加master节点选举
node.master: true
# 是否允许节点写数据
node.data: true
# 集群其他节点
discovery.seed_hosts: ["116.196.69.34:9300"]
# 允许选举master的节点
cluster.initial_master_nodes: ["node-2"]
```

**ES集群密码，证书配置**

生成证书

```shell
./bin/elasticsearch-certutil ca
./bin/elasticsearch-certutil cert --ca elastic-stack-ca.p12
```

配置，`elastic-certificates.p12` 必须放在`config`目录下面

```ini
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: elastic-certificates.p12
```

https证书，通过nginx代理服务器配置就可以了，不建议es配置https证书

**Kibana设置ES账户密码**

```ini
elasticsearch.username: "kibana"
elasticsearch.password: "密码"
```

**完整配置**

```ini
cluster.name: douyacun
path.data: /data/elasticsearch/data
path.logs: /data/elasticsearch/logs

bootstrap.memory_lock: true
network.bind_host: 0.0.0.0
network.publish_host: 116.196.69.34
http.port: 9200
transport.port: 9300
node.name: node-2
node.master: true
node.data: true
discovery.seed_hosts: ["116.196.69.34:9300"]
cluster.initial_master_nodes: ["node-2"]

xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: elastic-certificates.p12
```



es集群,证书命令


背景：之前开发的聊天是的功能，用的人太少了，考虑再三就决定去掉聊天室的功能了，改做一些其他有意思的事情，比如目前已经开发好了的左边栏当前在线人数，阅读时长统计（正在开发中）

遇到的问题：

- 页面虽然是react写的，但是nextjs服务端渲染的，不是单页应用就不能像单页应用那样有全局变量存储整站的websocket
- 服务端使用nginx作为代理服务器（之前是kong，后来干掉了），nginx proxy模块默认有 read_timeout/send_timeout 默认值 60s
- 服务端socket存储数据结构选型
- 安全防护

实现思路：

因为是多页模式，就需要每个页面初始化一个wss连接，按cookie去重以后就是当前在线人数。

页面wss重联机制，毕竟断网是很常见的

```jsx
/**
* websocket: 初始化 
*/
const connect = () => {
  conn = new WebSocket(ws_address);
  conn.onmessage = handlerMessage;
  // ws 关闭需要重新连接，每隔1s尝试1次
  conn.onclose = function (e) {
    console.log('Socket is closed. Reconnect will be attempted in 1 second.', e.reason);
    setTimeout(function () {
      connect();
    }, 1000);
  };
  // 连接失败
  conn.onerror = function (e) {
    console.error('Socket encountered error: ', e.message, 'Closing socket');
    conn.close()
  }
}
```



nginx：proxy_read_timeout/proxy_send_timeout默认60s超时，心跳检测，只需要服务端在60s内定时发送ping(0x9)消息就可以了，浏览器会自动回复pong消息

```go
for {
  select {
    // 定时向客户端推送，当前在线人数
    case <-countTicker.C:
    c.send <- c.hub.Count().Bytes()
    // 定时心跳检测
    case <-pingTicker.C:
    _ = c.conn.SetWriteDeadline(time.Now().Add(writeWait))
    if err := c.conn.WriteMessage(websocket.PingMessage, nil); err != nil {
      return
    }
  }
}
```



服务端存储socket结构体，没有向指定socket写数据的需求，不需要额外维护socket的数据结构，维护一个cookie在线页面数即可

```go
type Hub struct {
	// Registered uid
	uuid map[string]int
	// Inbound messages from the clients.
	broadcast chan Responser
	// Register requests from the clients.
	register chan *Client
	// Unregister requests from clients.
	unregister chan *Client
}

func (h *Hub) Run() {
  for {
    select {
      case client := <-h.register:
      // 注册ws
      h.uuid[client.uuid]++
      client.send <- hub.Count().Bytes()
      case client := <-h.unregister:
      // 删除ws
      h.uuid[client.uuid]--
      if h.uuid[client.uuid] == 0 {
        delete(h.uuid, client.uuid)
      }
    }
  }
```

安全方面需要考虑的内容是：

1. 如何检测跨站点 WebSocket 劫持漏洞?
2. 同一设备  ws 连接数如何限制，避免bug导致连接数过多导致服务挂掉?

解决方法：

1. check origin, 确保是自己网站的来源
2. 服务器端为每个 WebSocket 客户端生成唯一的一次性 Token；
3. 客户端将 Token 作为 WebSocket 连接 URL 的参数（譬如 wss://www.douyacun.com/?token＝randomOneTimeToken），发送到服务器端进行 WebSocket 握手连接；
4. 服务器端验证 Token 是否正确，一旦正确则将这个 Token 标示为废弃不再重用，同时确认 WebSocket 握手连接成功；如果 Token 验证失败或者身份认证失败，则返回 403 错误。
5. 限流，限制设备最多最大链接数，必要时，deny ip地址

鉴于之前开发的聊天功能没人用，考虑在三去掉了聊天功能，改成统计当前在线人数

websocket如何实现统计当前在线人数



# gositemap

Sitemap 协议: https://www.sitemaps.org/protocol.html

博客: [https://www.douyacun.com](https://www.douyacun.com)

博客 sitemap: [https://www.douyacun.com/sitemap.xml](https://www.douyacun.com/sitemap.xml)

Github: [https://github.com/douyacun/gositemap](https://github.com/douyacun/gositemap)

pkg.go.dev: [https://pkg.go.dev/github.com/douyacun/gositemap](https://pkg.go.dev/github.com/douyacun/gositemap)

### Installation

```
import "github.com/douyacun/gositemap"
```

go语言实现的sitemap生成工具
```go
st := gositemap.NewSiteMap()
st.SetPretty(true)

url := gositemap.NewUrl()
url.SetLoc("https://www.douyacun.com/")
url.SetLastmod(time.Now())
url.SetChangefreq(Daily)
url.SetPriority(1)
st.AppendUrl(url)
bt, err := st.ToXml()
if err != nil {
  fmt.Printf("%v", err)
  return
}
fmt.Printf("%s", bt)
```
输出
```xml
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9">
  <url>
    <loc>https://www.douyacun.com/</loc>
    <lastmod>2020-04-19T17:28:33+08:00</lastmod>
    <changefreq>daily</changefreq>
    <priority>1</priority>
  </url>
</urlset>
```

### Features

- [x]  [gositemap](#gositemap)
- [x]  [Image sitemap](#image-sitemap)
- [x]  [News sitemap](#news-sitemap)
- [x]  [Video sitemap](#video-sitemap)
- [x]  [file storage](#file-storage)
- [x]  [Sitemap index](#sitemap-index)

### Image sitemap

Google 图片扩展功能 [Google Image Support: 
https://support.google.com/webmasters/answer/178636?hl=zh-Hans&ref_topic=4581190

- **提供适当的相关信息**：确保您的视觉内容与其所在网页的主题相关。我们建议您仅在能为网页增添原创价值的情况下展示图片。我们极不赞成在网页中完全使用非原创的图片和文字内容。
- **优化放置位置**：尽可能将图片放置在相关文字附近。必要时，也可考虑将最重要的图片放置在网页顶部附近。
- **勿将重要文字内嵌在图片中**：避免将文字（特别是网页标题和菜单项等重要的文字元素）内嵌在图片中，因为并非所有用户都能访问这类文字（而且网页翻译工具不适用于图片）。为了尽可能让更多的人能访问您的内容，请使用 HTML 格式提供文本，并为图片提供替代文本。
- **创建信息丰富的优质网站**：对 Google 图片而言，优质的网页内容与视觉内容同等重要 - 它可以提供背景信息并更能吸引用户点击搜索结果。网页内容可用于为图片生成一段文本摘要，而且 Google 在进行图片排名时会考虑对应的网页内容质量
- **创建适合在各种设备上访问的网站**：比起桌面设备，用户更多地使用移动设备在 Google 图片上进行搜索。因此，有必要设计一个适合所有设备类型和尺寸的网站。请使用移动设备适合性测试工具测试您的网页在移动设备上的运行效果，并获取反馈以了解哪些内容需要修正。
- **为图片创建良好的网址结构**：Google 会借助网址路径以及文件名来理解您的图片。我们建议您好好组织图片内容，以使网址结构合乎逻辑。

```go
st := NewSiteMap()
st.SetPretty(true)
url := NewUrl()
url.SetLoc("https://www.douyacun.com/show_image")
// 注意这里url.SetLoc设置网页的网址
// image.SetLoc 设置的是图片访问路径，image的域名和网址域名不一致也可以
_image := NewImage().
    SetLoc("https://www.douyacun.com/image1.jpg").
    SetTitle("example").
    SetCaption("图片的说明。").
    SetLicense("https://www.douyacun.com")
url.AppendImage(_image)

_image = NewImage().
    SetLoc("https://www.douyacun.com/image2.jpg").
    SetTitle("example").
    SetCaption("图片的说明。").
    SetLicense("https://www.douyacun.com")
url.AppendImage(_image)

st.AppendUrl(url)
data, err := st.ToXml()
if err != nil {
    fmt.Printf("%v", err)
    return
}
fmt.Printf("%s", data)
```

输出
```xml
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9" xmlns:image="http://www.google.com/schemas/sitemap-image/1.1">
  <url>
    <loc>https://www.douyacun.com/show_image</loc>
    <image:image>
      <image:loc>https://www.douyacun.com/image1.jpg</image:loc>
      <image:caption>图片的说明。</image:caption>
      <image:title>example</image:title>
      <image:license>https://www.douyacun.com</image:license>
    </image:image>
    <image:image>
      <image:loc>https://www.douyacun.com/image2.jpg</image:loc>
      <image:caption>图片的说明。</image:caption>
      <image:title>example</image:title>
      <image:license>https://www.douyacun.com</image:license>
    </image:image>
  </url>
</urlset>
```

### News sitemap

Google 新闻站点地图准则 google news support
https://support.google.com/webmasters/answer/178636?hl=zh-Hans&ref_topic=4581190

```go
st := NewSiteMap()
st.SetPretty(true)

url := NewUrl()
url.SetLoc("https://www.douyacun.com/business/article55.html")
url.AppendNews(NewNews().SetName("《示例时报》").
    SetTitle("公司 A 和 B 正在进行合并谈判").
    SetLanguage("zh-cn").
    SetPublicationDate(time.Now()))
st.AppendUrl(url)
data, err := st.ToXml()
if err != nil {
    fmt.Printf("%v", err)
    return
}
fmt.Printf("%s", data)
```
输出
```xml
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9" xmlns:news="http://www.google.com/schemas/sitemap-news/0.9">
  <url>
    <loc>https://www.douyacun.com/business/article55.html</loc>
    <news:news>
      <news:publication>
        <news:name>《示例时报》</news:name>
        <news:language>zh-cn</news:language>
      </news:publication>
      <news:publication_date>2020-04-19T17:24:49+08:00</news:publication_date>
      <news:title>公司 A 和 B 正在进行合并谈判</news:title>
    </news:news>
  </url>
</urlset>
```

### Video sitemap

视频 Sitemap 及其替代方案  Google Video Support 
https://support.google.com/webmasters/answer/80471?hl=zh-Hans&ref_topic=4581190

- **Google 必须能够找到该视频。** 系统会根据是否存在某种 HTML 标记（例如 ``、`` 或 ``）来识别网页中的视频。请确保相应网页不[需要复杂的用户操作或特定的网址片段即可加载](https://support.google.com/webmasters/answer/156442#complex-javascript)，否则 Google 可能找不到它。**提示**：虽然我们可以通过自然抓取找到网页中内嵌的视频，但您也可以通过发布[视频 Sitemap](https://support.google.com/webmasters/answer/80471) 帮助我们找到您的视频。
- **您必须为视频提供高品质的缩略图 。**
- **确保每个视频都位于可公开访问的网页中**，用户可以在其中观看视频。该网页不应该要求用户登录，也不应该被 robots.txt 或 noindex屏蔽（必须可供 Google 访问）。
- **视频内容应确切吻合其托管网页的内容。** 例如，如果您拥有一个介绍桃饼的食谱网页，不要嵌入笼统介绍甜点的视频。
- 确保您在视频 Sitemap 或视频标记中提供的任何信息与实际视频内容**一致**。

```go
st := NewSiteMap()
url := NewUrl()
url.Loc = "https://www.douyacun.com"

video := NewVideo().
    SetThumbnailLoc("http://www.example.com/thumbs/123.jpg").
    SetTitle("适合夏季的烧烤排餐").
    SetDescription("小安教您如何每次都能烤出美味牛排").
    SetContentLoc("http://streamserver.example.com/video123.mp4").
    SetPlayerLoc("http://www.example.com/videoplayer.php?video=123", true).
    SetDuration(600*time.Second).
    SetExpirationDate(time.Now().Add(time.Hour*24)).
    SetRating(4.2).
    SetViewCount(12345).
    SetPublicationDate(time.Now().Add(-time.Hour*24)).
    SetFamilyFriendly(true).
    SetRestriction([]string{"IE", "GB", "US", "CN", "CA"}, true).
    SetPrice(6.99, "EUR", true, true).
    SetRequiresSubscription(true).
    SetUploader("GrillyMcGrillerson", "http://www.example.com/users/grillymcgrillerson").
    SetLive(true)

url.AppendVideo(video)
st.AppendUrl(url)
bt, err := st.ToXml()
if err != nil {
    log.Printf("%v", err)
    return
}
fmt.Printf("%s", bt)
```

输出
```xml
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9" xmlns:video="http://www.google.com/schemas/sitemap-video/1.1">
  <url>
    <loc>https://www.douyacun.com</loc>
    <video:video>
      <video:thumbnail_loc>http://www.example.com/thumbs/123.jpg</video:thumbnail_loc>
      <video:title>适合夏季的烧烤排餐</video:title>
      <video:description>小安教您如何每次都能烤出美味牛排</video:description>
      <video:content_loc>http://streamserver.example.com/video123.mp4</video:content_loc>
      <video:player_loc allow_embed="yes">http://www.example.com/videoplayer.php?video=123</video:player_loc>
      <video:duration>600</video:duration>
      <video:expiration_date>2020-04-20T17:25:49+08:00</video:expiration_date>
      <video:rating>4.2</video:rating>
      <video:view_count>12345</video:view_count>
      <video:publication_date>2020-04-18T17:25:49+08:00</video:publication_date>
      <video:family_friendly>yes</video:family_friendly>
      <video:restriction relationship="allow">IE GB US CN CA</video:restriction>
      <video:price currency="EUR" type="own" resolution="hd">6.99</video:price>
      <video:requires_subscription>yes</video:requires_subscription>
      <video:uploader info="http://www.example.com/users/grillymcgrillerson">GrillyMcGrillerson</video:uploader>
      <video:live>yes</video:live>
    </video:video>
  </url>
</urlset>
```

### file storage

```go
st := NewSiteMap()
// 默认域名
st.SetDefaultHost("https://www.douyacun.com")
st.SetPretty(true)
// 每个sitemap文件不能多于50000个链接，这里可以自己配置每个文件最多，如果超过MaxLinks，会自动生成sitemap_index.xml文件
// st.SetMaxLinks(2)
st.SetPublicPath("/tmp/gositemap")

url := NewUrl()
url.SetLoc("https://www.douyacun.com/business/article55.html")
url.AppendNews(NewNews().SetName("《示例时报》").
               SetTitle("公司 A 和 B 正在进行合并谈判").
               SetLanguage("zh-cn").
               SetPublicationDate(time.Now()))
st.AppendUrl(url)

path, err := st.Storage()
if err != nil {
  fmt.Printf("%v", err)
  return
}
fmt.Println(path)
```

生成`sitemap.xml`文件

```xml
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9" xmlns:news="http://www.google.com/schemas/sitemap-news/0.9">
  <url>
    <loc>https://www.douyacun.com/business/article55.html</loc>
    <news:news>
      <news:publication>
        <news:name>《示例时报》</news:name>
        <news:language>zh-cn</news:language>
      </news:publication>
      <news:publication_date>2020-04-19T17:44:33+08:00</news:publication_date>
      <news:title>公司 A 和 B 正在进行合并谈判</news:title>
    </news:news>
  </url>
</urlset>
```

### Sitemap index 

拆分较大的站点地图

```go
mapIndex := NewSiteMapIndex()

st1 := NewSiteMap()
st1.SetPretty(true)
st1.SetFilename("sitemap1")
st1.SetCompress(true)

# 以news为例
url := NewUrl()
url.SetLoc("https://www.douyacun.com/business/article55.html")
url.AppendNews(NewNews().SetName("《示例时报》").
               SetTitle("公司 A 和 B 正在进行合并谈判").
               SetLanguage("zh-cn").
               SetPublicationDate(time.Now()))
st1.AppendUrl(url)

url2 := NewUrl().SetLoc("https://www.douyacun.com/business/article56.html")
url2.AppendNews(NewNews().SetName("《示例时报》").
               SetTitle("公司 A 和 C 正在进行合并谈判").
               SetLanguage("zh-cn").
               SetPublicationDate(time.Now()))
st1.AppendUrl(url2)
st1Filename, err := st1.Storage()
if err != nil {
  fmt.Printf("%v", err)
  return
}
mapIndex.Append("https://www.douyacun.com/" + st1Filename)
filename, err := mapIndex.Storage("/Users/liuning/Documents/github/gositemap/sitemap_index.xml")
if err != nil {
  fmt.Printf("%v", err)
  return
}
fmt.Printf("%v", filename)
```

使用sitemap_index时，建议每个单独的sietmap comporess压缩成.gz文件，`SetCompress`后会自动添加 `.gz`后缀名 ,  生成`sitemap1.xml.gz` 和 `sitemap_index.xml`

### Documentation

Api Reference : https://pkg.go.dev/github.com/douyacun/gositemap?tab=doc



# LICENSE

MIT@[douyacun](https://github.com/douyacun).

![douyacun](/images/blog/1/assert/douyacun_qrcode.jpg)

golang sitemap生成工具


背景：我是佛系写博客，写完就凉在那，简单的做一下seo，19年末（农历）上线（年底需求少）持续了大概有1年的时间，有时间就写点。隔段时间看看友盟统计，有几个人来过，基本上一天能有2，3个人来看看，偶尔有个人评论一下，我都不知道当时写的啥了。一度想关掉，但页面，接口都是一点点写出来的，不是用的开源的博客站。还是决定好好运营一下，也能享受自己开发功能服务自己需求成就感～

第一次尝试：博客文章转发到知乎平台

2019-06-07 ～ 2021-01-21 前后陆续发了有16篇文章，阅读总数6789，每天阅读数量大概20-60之间浮动。点击链接卡片到博客的数量约等于0

![zhihu-文章统计-20200121](/images/blog/1/引流/assert/zhihu-文章统计-20200121.png) 

最近14天的数据统计

| 日期       | 阅读数 | 赞数 | 评论数 | 收藏数 |
| ---------- | ------ | ---- | ------ | ------ |
| 2021-01-20 | 28     | 0    | 0      | 0      |
| 2021-01-19 | 47     | 0    | 0      | 0      |
| 2021-01-18 | 33     | 0    | 0      | 0      |
| 2021-01-17 | 28     | 0    | 0      | 3      |
| 2021-01-16 | 25     | 0    | 0      | 0      |
| 2021-01-15 | 45     | 0    | 0      | 0      |
| 2021-01-14 | 61     | 0    | 0      | 0      |
| 2021-01-13 | 57     | 1    | 0      | 0      |
| 2021-01-12 | 50     | 0    | 0      | 0      |
| 2021-01-11 | 50     | 0    | 0      | 2      |
| 2021-01-10 | 11     | 0    | 0      | 0      |
| 2021-01-09 | 6      | 0    | 0      | 0      |
| 2021-01-08 | 22     | 0    | 0      | 0      |
| 2021-01-07 | 50     | 0    | 0      | 0      |

第二次尝试：知乎问答

第一次的尝试有数据是可行的，但是流量太低，不符合期望。但是每天的20-60流量也不能丢掉继续保持前提下转变思路。就想知乎这么大的流量去哪儿了？每天刷刷知乎，关注一下哪些曝光量比较高。知乎是一个问答社区，百亿流量支持～

那我连续3天，在知乎上回答问题。会找推荐流量大，适合我的领域作答，一般是理性分析，然后拐歪磨脚的贴一下博客链接卡片

![image-20210121163022098](/images/blog/1/引流/assert/image-20210121163022098.png)

贴一下知乎的数据：

| 日期       | 阅读数 | 评论数 | 赞同数 | 感谢数 | 收藏数 |
| ---------- | ------ | ------ | ------ | ------ | ------ |
| 2021-01-20 | 450    | 0      | 1      | 0      | 1      |
| 2021-01-19 | 487    | 1      | 1      | 1      | 0      |
| 2021-01-18 | 155    | 0      | 1      | 0      | 1      |
| 2021-01-17 | 19     | 0      | 0      | 0      | 0      |
| 2021-01-16 | 12     | 0      | 0      | 0      | 0      |

点击外链进去博客的数量：

![知乎跳转](/images/blog/1/引流/assert/知乎跳转.png)



知乎引流技巧总结，持续更新～

知乎引流可行性实践与总结


非常重要：原创，原创数量，Google搜索引擎收录数量

总结一下我的3次申请经历，希望能给大家有点提示

第一次申请：2018年3月那时开始学习react，摸索着做了一个视频种子站（00h.tv），现在在google上还是可以通过  [site:00h.tv](https://www.google.com/search?q=site%3A00h.tv) 看到当时已经被收录的页面，申请时也没有报太大的希望～，google也不会让你失望

![image-20210118175835140](/images/blog/1/tools/assert/image-20210118175835140.png)

第二次申请：2020年快过年那会申请，此时的我已经工作了3年了，会go php python c，有一次面头条，被问到你有什么优势，瞬间懵逼了。故此才决定开始写博客。从整个架子搭建出来以后就开始申请google adsense，又被拒绝了～，也是因为没啥内容，质量也不过关

这会得贴一下google adsense加入 [AdSense 计划的资格要求](https://support.google.com/adsense/answer/9724?hl=zh-Hans)，第一条就是：**您提供的内容是否有趣并且是您原创**的，可以看作是申请时唯一的要求了

![加入google-adsense资格要求](/images/blog/1/tools/assert/加入google-adsense资格要求.png)

第三次申请：2021-01-16填写的申请，01-17号就获得了资格，也就是说如果你的网站是合格的话（稳定性很重好），一天就可以出结果了。这里可以看下我申请后，网站内google搜索引擎蜘蛛的请求量，正常情况每天也就10个左右，但是申请后1天内爬虫达到了143次

![google-adsense-douyacun](/images/blog/1/tools/assert/google-adsense-1022749.png)

![google-adsense爬虫日志.png](/images/blog/1/tools/assert/google-adsense爬虫日志.png)



接下来就是维护了，其实维护比申请更重要，被封了以后此账号再也没有机会了

- **不要自己点击：** 对 Google 广告的点击必须来自真正感兴趣的用户，严禁以任何手段虚增 Google 广告的点击次数或展示次数。禁止使用的手段包括但不限于：人工重复点击或展示，使用可自动产生点击和展示的工具，以及诉诸漫游器或欺诈性软件。**请注意，发布商不得出于任何原因点击自己的广告。**

- **不要引导用户点击：** 虚假消息，出人意料的点击区域，误导性网站行为，操纵浏览器历史记录，社交工程学（网上诱骗网站和欺骗性网站），自动重定向，模仿移动中或点击中的鼠标指针，试图诱使用户与其互动。列出来就说明google已经有响应的反作弊措施了
- **其他反人类的内容：** 这个比较放心，毕竟在国内是要备案的，我是不敢发的～

2021-01-16填写的申请，01-17号就获得了资格

如何快速高质量申请Google广告？


 @hustcc react-adsense  不支持服务端渲染框架，受 [react-adsense](https://www.npmjs.com/package/react-adsense) 启发写了 react-ssr-adsense

# react-ssr-adsense

react-ssr-adsense is a React-ssr-component for Google AdSense。support [#nextjs](https://nextjs.org/)

[![npm](https://img.shields.io/npm/v/react-ssr-adsense.svg)](https://www.npmjs.com/package/react-ssr-adsense)
[![npm](https://img.shields.io/npm/dm/react-ssr-adsense.svg)](https://www.npmjs.com/package/react-ssr-adsense)
[![npm](https://img.shields.io/npm/l/react-ssr-adsense.svg)](https://www.npmjs.com/package/react-ssr-adsense)

# 1. Install

> **npm install --save react-ssr-adsense**

Before use Google AdSense, you should add the `script` at the end of HTML.

```html
<script async src="//pagead2.googlesyndication.com/pagead/js/adsbygoogle.js"></script>
```


# 2. Usage

```jsx
import React from 'react';
import AdSense from 'react-ssr-adsense';

// ads with no set-up
<AdSense
  client='ca-pub-7292810486004926'
  slot='7806394673'
/>

// ads with custom format
<AdSense
  client='ca-pub-7292810486004926'
  slot='7806394673'
  style={{ width: 500, height: 300, float: 'left' }}
  format=''
/>

// responsive and native ads
<AdSense
  client='ca-pub-7292810486004926'
  slot='7806394673'
  style={{ display: 'block' }}
  layout='in-article'
  format='fluid'
/>

// auto full width responsive ads
<AdSense
  client='ca-pub-7292810486004926'
  slot='7806394673'
  style={{ display: 'block' }}
  format='auto'
  responsive='true'
  layoutKey='-gw-1+2a-9x+5c'
/>
```


# 3. Props

 - Required props:
   - `client`
   - `slot`
 - Optional props:
   - `className`:
   - `style`:
   - `layout`:
   - `layoutKey`:
   - `format`:
   - `responsive`:


# LICENSE

MIT@[douyacun](https://github.com/douyacun).





昨天成功将google adsense申请下来了，博客时nextjs服务端渲染框架，使用react-adsense不支持服务端渲染，解决以后出了一个react-ssr-adsense

react接入google广告: 支持服务端渲染


最近在研究websocket的路上愈走愈远了，从开始只是搭建聊天室到单机服务如何支持百万连接。现在是在弄epoll的道路上，经历一路坎坷。这里记录一下心路历程。

问题： **epoll这只能运行在linux，有问题没发调试，蛋疼吗？**

首先想到装个docker，运行个centos，然后对着docker又是一顿撸。还是没发调试，

[gdb](/article/60b333ebaf6f8bdee5565d1763302f2a) 也是可以调试go程序的，问题是，这tm一个项目几百个文件都有了，我gdb怎么断点啊，大概的思路就是从函数调用的地方开始入手，这啥时候是个头啊，简单的还行，果断放弃了

[delve](https://github.com/go-delve/delve) dlv其实很不错的，也能像gdb一样支持，对goroutine支持也很完美，问题来了，docker运行的centos，我就是装个dlv, `go get -u github.com/go-delve/delve/cmd/dlv` 装不动，只能心里默默诅咒那个下决定对github限速的人。google我能理解，但是github这个真理解不了。只能走代理了。关于[怎么在centos上使用代理](/linux/centos使用ss代理.md)

**goland配置**

`Run/Edit configurations` 

![](/images/blog/1/golang/assert/delve-goland.png)

**host配置**

docker运行的centos，创建container的时候，指定 `-p 2345:2345` , 把容器的端口映射到宿主机器上就ok了

**编译调试**

goland里面介绍的很明白，有一个坑 `exec ./main`的时候后面怎么传参数给调试进程，正确的姿势: 后面跟 `--`，告诉dlv，这是给调试进程用的。

```shell
dlv --listen=:9004 --headless=true --api-version=2 --accept-multiclient exec ./main -- start --env debug
```

**dlv listen以后怎么退出来？**

不好意思，我也没有找到正确的姿势，万能的方式，新启动一个终端kill掉他，然后会问，docker怎么attach以后还是当前窗口，这个....

```shell
docker exec -it centos7 bash
```

**看一下我调试解决的bug**

```go
func start() {
	for {
		clients, err := hub.Wait()
		if err != nil {
			logger.Debugf("epoll wait %v", err)
			continue
		}
		for _, client := range clients {
      // 这里是68行，下面这一行会报 空指针 的错误
			bt, opCode, err := wsutil.ReadClientData(client.conn)
			if err != nil {
				log.Printf("read message error: %v", err)
				continue
			}
			// 处理ping/pong/close
			if opCode.IsControl() {
				err := wsutil.HandleClientControlMessage(client.conn, wsutil.Message{
					OpCode:  opCode,
					Payload: bt,
				})
				if err != nil {
					if _, ok := err.(wsutil.ClosedError); ok {
						hub.unregister <- *client
					}
					continue
				}
				continue
			}
			cmsg := ClientMessage{}
			if err := json.Unmarshal(bt, cmsg); err != nil {
				logger.Errorf("json unmarshal error: %v", err)
				continue
			}
			hub.broadcast <- NewDefaultMsg(client, cmsg.Content, cmsg.ChannelId)
		}
	}
}
```

报错信息:

```go
panic: runtime error: invalid memory address or nil pointer dereference
[signal SIGSEGV: segmentation violation code=0x1 addr=0x8 pc=0xdf08d4]

goroutine 20 [running]:
dyc/internal/module/chat.start()
	/root/github/api.douyacun.com/internal/module/chat/client.go:68 +0x64
created by dyc/internal/module/chat.init.0
	/root/github/api.douyacun.com/internal/module/chat/client.go:26 +0x82
```

可以看出来是client为nil了，那就出现`hub.Wait()`,  调用epoll wait的时候返回的client有nil，debug一下

![](/images/blog/1/golang/assert/delve-debug.png)

wait函数的代码:

```go
func (e *epoll) Wait() ([]*Client, error) {
	events := make([]syscall.EpollEvent, 100)
	n, err := syscall.EpollWait(e.Fd, events, 100)
	if err != nil {
		return nil, err
	}
	connections := make([]*Client, n)
	for i := 0; i < n; i++ {
		conn := e.connections[int(events[i].Fd)]
		connections = append(connections, conn)
	}
	return connections, nil
}
```

next一直运行，看一下有连接进来的情况:

![](/images/blog/1/golang/assert/delve-debug-wait.png)

这里应该是对`syscall.EpollWait` 第二个参数events， 第一个返回值n的理解有问题，但这不是关键，关键是远程调试姿势有了。



golang一般都是运行在linux机器上的，如果用不到linux特有服务的话都好说，本地直接调试开发就ok了，万一用到epoll了，只能远程调试了

golang如何远程调试代码？


![kong http log](/images/blog/1/kong/assert/137287054_2480479648928442_6391221166333310365_n.jpg)

背景：博客文章SEO优化，百度和Google的收录速度比较慢，需要统计百度和Goole爬虫每天的请求量，博客使用kong作为网关层，代理请求服务

分析：

- 为了避免跨域，后端服务和前端服务均使用同一域名，kong 根据 path 路由到不同 service 上
- 统计爬虫的请求，正常用户请求需要过滤掉，爬虫会在 User-Agent 指明来自哪里
- 数据存储与报表展示，这里因为后端使用的es存储配套kibana，图表的展示做起来也相对简单

#### kong日志插件 http-log

首先要解决的是不同域名，不同路径，而kong的插件是支持到**路由**层级的。

请求方法：post/put/patch 

http endpoint：接收日志的接口地址（此路由已经限制ip了）

![image-20210116132443906](/images/blog/1/kong/assert/image-20210116132443906.png)

#### 统计爬虫请求

通过 User-Agent 来识别各大搜索引擎的爬虫，贴下 http-log 插件发送过来的原始数据（只是请求部分，全部太长了）

```json
{
    "request": {
        "querystring": {},
        "size": 458,
        "uri": "/article/7BVuR3ABe5zSv27mtyuf",
        "url": "https://www.douyacun.com:8443/article/7BVuR3ABe5zSv27mtyuf",
        "headers": {
            "accept": "*/*,application/signed-exchange;v=b3",
            "accept-encoding": "gzip,deflate,br",
            "amp-cache-transform": "google;v=\"1..2\"",
            "connection": "keep-alive",
            "from": "googlebot(at)googlebot.com",
            "host": "www.douyacun.com",
            "user-agent": "Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.90 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)",
            "x-anonymous-consumer": "true",
            "x-consumer-id": "762663d6-f465-4549-a4f8-ac4ae51f7f0e",
            "x-consumer-username": "anonymous"
        },
        "method": "GET"
    }
}
```

需要统计多个搜索引擎的请求，选择使用正则来过滤正常请求，爬虫的请求正常入库

```regexp
(Baiduspider|Googlebot|Googlebot|360Spider|Sogou|Bingbot)
```

顺便贴一下go定义的结构体，只是取了一下我认为需要的数据

```go
type KongHttpLog struct {
	Latencies struct {
		Request json.Number `json:"request"`
		Kong    json.Number `json:"kong"`
		Proxy   json.Number `json:"proxy"`
	} `json:"latencies"`
	Request struct {
		Querystring map[string]string `json:"querystring"`
		Size        json.Number       `json:"size"`
		Uri         string            `json:"uri"`
		Url         string            `json:"url"`
		Headers     map[string]string `json:"headers"`
		Method      string            `json:"method"`
	} `json:"request"`
	ClientIp string  `json:"client_ip"`
	Tries    []tries `json:"tries"`
	Response struct {
		Headers map[string]string `json:"headers"`
		Status  json.Number       `json:"status"`
		Size    json.Number       `json:"size"`
	}
	Spider string `json:"spider"`
	Date   string `json:"date"`
}
```

#### ES 存储数据

正常来说搜索引擎的爬虫媒体不会有大量的请求，我们定义储存策略是：按月统计，保留3个月，定期删除3个月之前的数据

还有个的问题是，每个月需要创建index设置mapping否则字段类型都是es猜测出来的，这里es提供了 [index template](https://www.elastic.co/guide/en/elasticsearch/reference/7.10/indices-templates.html) 如果index 命名命中了 `index_patterns` ，如果不存在会自动按照template创建index, 避免了需要自动脚本来创建index

```json
{
  "index_patterns": ["spider_*"],  
  "mappings": {
    "properties": {
      "date": {
        "type": "date"
      },
      "spider": {
        "type": "keyword"
      }
    }
  }
}
```

使用kibana做个折线图，每日观察一下趋势

![image-20210116180415575](/images/blog/1/kong/assert/image-20210116180415575.png)



so: kong收集搜索引擎爬虫每日收录哪些网页的目的已经实现了

刚加完3个小时后，我就统计到了Google的访问全部500了～～～～，一万个草泥马

![image-20210116213422686](/images/blog/1/kong/assert/image-20210116213422686.png)



kong 只有一个server，所有的域名都会走这一个server，然后转发路由，那如何按不同域名收集日志？

kong日志收集：不同域名，不同路由


最近发现从百度跳转过来的都是很奇怪的域名，捏着鼻子想了想，一直用的是Google搜索问题，针对Google做了很多seo优化，后来了解一下大部分程序员还都是用百度的。想问一句：这么多的广告，几乎搜不到文档，甚至Github源码都搜不到～，怎么忍受的了～。

万般无奈，从Google跳过来的人着实比较少，也没有其他的入口可以让大家看到了～



问题：百度已经收录页面，虽然链接域名不对但是也不能放弃这些可怜的入口，毕竟是技术能解决的问题，如何能让百度继续保持收录？

首先为什么会有奇怪的域名，站点入口是通过kong网关代理转发流量的。肯定出在kong的配置上了。没有限制Hosts导致douyacun.com下的任意子域名只要路径正确都可以访问到，这是SEO的大忌～

<img src="/images/blog/1/kong/assert/image-20210112233458514.png" alt="image-20210112233458514" style="zoom:50%;" />

那为啥Google的收录都是正常的？其实Google我一直都是提交的sitemap。其实Google也爬了很多其他域名的链接～



问题：那kong如何实现域名301跳转？

- 官方给出的是插件: `https://docs.konghq.com/hub/kong-inc/forward-proxy/` 企业付费插件

- github 给出的方案就是：https://github.com/Kong/kong/issues/3503 修改`nginx_kong.lua`模板

其他问题：

1. docker部署的kong套装～
2. 多个域名，不能用`server_name` 去匹配了～

第一个问题：使用逻辑卷挂载本地 `nginx_kong.lua` 到容器中去～，注意不能直接修改 kong/nginx-kong.conf ，一旦kong重启执行 nginx_kong.lua 生成新的nginx-kong.conf配置

第二个问题：多个域名匹配，这其实是nginx的事情了～，在 `location /` 根路径下判断域名是否需要重定向，注意 if 不支持 or / and，要用正则匹配，简单贴一下代码:

```nginx
....
location / {
  if ( $host ~ "(^douyacun.com$|^server.douyacun.com$|^7www.douyacun.com$|^rank.chinaz.comwww.douyacun.com$)") {
    rewrite ^/(.*) https://www.douyacun.com/$1 permanent;
    break;
  }
  ....
}
```



kong没有提供重定向的配置功能，唯一的插件也是需要企业版

关键字